Un trabajador de seguridad de OpenAI renunció luego de que empezó a desconfiar de la empresa tras el anuncio de GPT-4o, ya que cree que no podrá controlar la inteligencia artificial (IA) de sus características, y menos cuando se alcance la denominada inteligencia artificial general (AGI).
Se trata de Danel Kokotajlo, quien presentó su renuncia por la desconfianza que le está generando la compañía de Sam Altman, director ejecutivo de OpenAi, dijo que la AGI podría superar las capacidades humanas sin ningún problema.
Kokotaklo está haciendo un doctorado en filosofía y estaba centrado en el equipo de ética de la compañía, por lo que su trabajo en la empresa era supervisar si las cosas podrían funcionar correctamente según la moralidad de la sociedad.
El hombre se mostró decepcionado, ya que se ha pedido una pausa en el desarrollo de estas tecnologías para poder gestionar de manera eficiente el impacto que pueda tener en la sociedad, pero el programa es que si se detiene, la rentabilidad de estas compañías se hundiría.
Por lo anterior, las empresas muestran a menudo proyectos avanzados como Sora, pero todavía le faltan meses para ver la luz. Los expertos no paran de advertir la necesidad de frenar el desarrollo por los peligros potenciales que podría tener una IA mucho más inteligente que la humanidad.
El hecho de que algunos expertos en IA solicitaran que se detuviera y después lanzaran su propia IA, no ayudó en mucho, tal como hizo Elon Musk con Grok, que además es de código abierto.
Cada vez es más claro que la IA es alarmante hasta para los que trabajan en ella, ya que no es el único que ha optado por renunciar, como el caso de William Saunders, quien era parte del equipo de superalineamiento de la empresa, y que debía hacer que las IA siguieran las intenciones humanas en lugar de continuar su propio camino.
La IA podría haber sido un obstáculo de civilizaciones extraterrestres para convertirse en multiplanetarias, así como habría avanzado tan rápido que supondría el colapso de este tipo de sociedades, y es algo que podría pasar también con los humanos.
Hoy se presentan estos temores, no hay nada que garantice que la IA pueda tomar el control del sistema o alcanzar la AGI. Ciertos expertos creen que la cuestión está muy cerca de la IA, sin embargo, para otros es todo lo contrario, ya que sería imposible conseguirlo.
AA