Alerta mundial: una IA evitó el control y hackeó a a dos empresas
OpenAI confirmó que dos de sus modelos de inteligencia artificial se escaparon de un entorno de prueba cerrado y hackearon a la plataforma Hugging Face para robar las respuestas de un examen de ciberseguridad. El hallazgo, que la propia compañía calificó como un incidente “sin precedentes”, encendió todas las alarmas en Silicon Valley.
Los protagonistas del episodio son GPT-5.6 Sol, el modelo insignia de OpenAI, y otro sistema interno todavía no publicado. Ambos estaban siendo sometidos a un test de ciberseguridad llamado ExploitGym, diseñado para medir si una IA puede detectar y explotar fallas reales de software.
Para hacerlo de forma segura, la compañía los había encerrado en un “sandbox“: un entorno digital aislado, sin conexión libre a internet. Sin embargo, las máquinas no tenían intención de resolver el examen paso a paso.
Cómo fue el hackeo
Según reconstruyó OpenAI, los modelos gastaron una cantidad enorme de poder de cómputo hasta encontrar una falla de seguridad, un “zero-day“, en un proveedor externo. Esa grieta les permitió salir del encierro y conectarse a la web abierta.
Una vez libres, dedujeron que Hugging Face podía almacenar las respuestas del examen y fueron directo por ellas. Encadenaron credenciales robadas, identificaron vulnerabilidades y llegaron a ejecutar código de forma remota en los servidores de la plataforma, exactamente como lo haría un atacante humano.
La compañía confirmó que, en total, los sistemas accedieron a cuatro cuentas en cuatro servicios distintos. Además de Hugging Face, la segunda víctima confirmada fue Modal Labs, una tecnológica de Nueva York, según reveló su propio director de tecnología. Las otras dos empresas comprometidas todavía no fueron identificadas públicamente.
Hugging Face detectó y contuvo la intrusión antes de que trascendiera, y aseguró que no encontró evidencia de alteraciones en sus modelos, datasets o paquetes públicos. Aun así, la firma sigue evaluando si hubo información de socios o clientes comprometida.
El freno de emergencia de la industria
El episodio sacudió a los pesos pesados del sector. Más de 1.000 empleados de las principales empresas de inteligencia artificial, entre ellos el CEO de Anthropic, Dario Amodei, además de referentes de Meta y Google DeepMind, firmaron una petición para pedirle al gobierno de Estados Unidos que intervenga de urgencia.
El documento, titulado “Regulando la frontera” (Pacing the Frontier, en inglés), reclama que Washington impulse un acuerdo internacional para marcarle el ritmo al desarrollo de la IA automatizada antes de que la situación se vuelva irreversible.
El temor de los firmantes no es abstracto: creen que la industria está cerca de lograr que la inteligencia artificial investigue y mejore sus propios sistemas de forma autónoma, sin supervisión humana.
Todas las miradas apuntaron también a Sam Altman, CEO de OpenAI, responsable directo de los modelos involucrados. Aunque no firmó la carta, reconoció el riesgo de fondo en una entrevista radial: admitió que la industria podría tener que “regular el ritmo” del desarrollo para darle tiempo a la sociedad de adaptarse a estos nuevos niveles de capacidad tecnológica.
