Antes de que el cofundador de OpenAI, Sam Altman, fuera despedido de la compañía el 17 de noviembre para después haber sido reincorporado, investigadores de la misma empresa enviaron una carta al consejo de administración en donde advirtieron un descubrimiento de inteligencia artificial, que según ellos podría amenazar a la humanidad.
El 23 de noviembre, Reuters aseguró por dos fuentes sin identificar, que la carta y el algoritmo de inteligencia artificial, de los que no se había informado hasta ahora, fueron importantes para la decisión de la junta de despedir a Altman.
Antes de la reincorporación de Altman el 21 de noviembre, más de 700 empleados habían amenazado con renunciar y unirse a Microsoft en solidaridad con su líder despedido.
Las fuentes citaron la carta como uno de los factores de una larga lista de quejas que condujeron al despido de Altman, éntrelas que se encontraban preocupaciones por la comercialización de avances de comprender las consecuencias.
OpenAI reconoció un proyecto llamado Q, y una carta a la junta antes de los acontecimientos del fin de semana, dijo una de las personas. Un vocero de OpenAI dijo que le mensaje alertaba al personal de ciertas historias de los medios sin comentar su exactitud.
¿Cuál es la información preocupante?
De acuerdo a la carta, el dato alarmante es que la IA podría reproducir el pensamiento matemático, que dicen, es más propio de la humanidad.
Los investigadores creen que las matemáticas son la frontera del desarrollo de la IA generativa, la cual hoy es buena escribiendo y traduciendo idiomas a través de la predicción estadística de la siguiente palabra, y las respuestas a una misma pregunta pueden variar mucho.
Sin embargo, dominar la capacidad de hacer cálculos matemáticos donde sólo hay una respuesta correcta, significa que la IA tendría una mayor capacidad de razonamiento que se parecería a la inteligencia humana. Esto podría aplicarse, por ejemplo, a la investigación científica novedosa.
A diferencia de una calculadora que puede resolver un número limitado de operaciones, la IA generativa puede generalizar, aprender y comprender.
Los investigadores señalaron las proezas de la IA y su riesgo potencial, dijeron las fuentes sin especificar los problemas de seguridad exactos indicados en la carta. Los informáticos llevan mucho tiempo discutiendo sobre el peligro que suponen las máquinas altamente inteligentes, por ejemplo, si podrían determinar que la destrucción de la humanidad les interesa.
AA