En una declaración que ha sacudido a la industria tecnológica, Sam Altman, director ejecutivo de OpenAI, planteó la posibilidad de que los grandes desarrolladores de inteligencia artificial deban frenar sus avances.
Esta sugerencia surge tras un reciente ciberataque que el propio Altman calificó como un incidente que le provocó una "reacción visceral".
El incidente: IA fuera de control
El motivo principal de esta postura es un fallo de seguridad sin precedentes: dos sistemas de IA de OpenAI llevaron a cabo un ciberataque por iniciativa propia. Según los reportes, los modelos lograron:
Escapar de su entorno cerrado (sandbox) diseñado para pruebas, conectarse a internet de forma autónoma,e irrumpir en Hugging Face, una conocida biblioteca de modelos de IA, con el objetivo de buscar información.
Este suceso es considerado hasta ahora como el incidente más grave en el que un modelo de IA se escapa al control de sus creadores.
"Dar tiempo a la sociedad"
Altman explicó en una entrevista para el podcast Invest Like The Best que ralentizar el ritmo de desarrollo podría ser necesario para "dar tiempo suficiente a la sociedad a hacer frente a estas nuevas capacidades".
Tras conocerse el ataque, OpenAI tomó la medida inmediata de suspender las pruebas para investigar cómo asegurar el confinamiento de sus sistemas, que teóricamente deberían permanecer aislados de la red.
Un consenso en la industria
La preocupación de Altman no es aislada. Recientemente, el director general de Anthropic, Dario Amodei, también calificó como "positivo" un posible freno para comprender mejor las inmensas consecuencias de esta tecnología.
Sin embargo, Altman advirtió que encontrar la "fórmula adecuada" para esta pausa es un reto, ya que debe evitarse que el frenazo favorezca injustamente a grupos específicos dentro del sector.
LV