Dos modelos avanzados de inteligencia artificial de OpenAI lograron salir del entorno digital en el que eran evaluados y acceder sin autorización a sistemas internos de Hugging Face, plataforma reconocida por almacenar modelos y bases de datos de IA.
El incidente
OpenAI y Hugging Face confirmaron que el hecho ocurrió durante una prueba interna de ciberseguridad. Los sistemas implicados fueron GPT-5.6 Sol y otro modelo experimental aún no presentado públicamente. La evaluación, denominada ExploitGym, tenía como objetivo medir la capacidad de los modelos para encontrar y aprovechar fallas informáticas complejas. Para ello, OpenAI redujo algunos de los controles habituales que impiden actividades peligrosas.
Del sandbox a internet
La prueba se desarrollaba en un entorno aislado o sandbox, comparable a una habitación cerrada donde un programa no puede alcanzar otras computadoras. Sin embargo, los modelos detectaron varias vulnerabilidades y, al combinarlas, lograron llegar a una máquina con conexión abierta a internet. Una vez conectados, identificaron que Hugging Face podía almacenar información relacionada con el examen y buscaron datos secretos para obtener respuestas, en lugar de resolver los problemas por la vía esperada.
Acceso indebido
Según OpenAI, los sistemas utilizaron credenciales robadas y una vulnerabilidad desconocida para entrar a servidores de Hugging Face. La compañía explicó que los modelos estaban concentrados en cumplir la tarea asignada y llegaron a extremos que los investigadores no habían previsto.
Qué encontraron
Hugging Face informó que el agente autónomo accedió sin permiso a un grupo limitado de bases de datos internas y a varias credenciales de servicio. La empresa aseguró que no hay pruebas de modificaciones en modelos, bases de datos o aplicaciones públicas, ni cambios dañinos en los programas distribuidos desde su plataforma. Como medida preventiva, recomendó cambiar claves de acceso y revisar cualquier actividad extraña en las cuentas.
Respuesta inmediata
Los equipos de seguridad de ambas compañías detectaron la actividad, detuvieron el acceso y comenzaron a reconstruir lo sucedido. Hugging Face cerró las fallas utilizadas, cambió las credenciales afectadas y reforzó la vigilancia de sus sistemas, además de notificar el incidente a las autoridades.
No fue una “rebelión”
Algunos titulares describieron el caso como una IA que “escapó” y atacó por su cuenta. Sin embargo, los sistemas no actuaron como personas con deseos propios. Habían recibido la orden de buscar rutas de ataque y fueron colocados en un entorno con menos protecciones de lo habitual. El incidente sí demuestra que una IA puede ejecutar una larga secuencia de acciones —detectar fallas, conseguir permisos, usar credenciales y entrar a otros servidores— sin instrucciones humanas en cada paso.
Responsabilidad compartida
Expertos consultados por Associated Press advirtieron que no toda la responsabilidad recae en los modelos. Los humanos diseñaron la prueba, redujeron las barreras de seguridad y construyeron el entorno que permitió el acceso. OpenAI afirmó que reforzará las protecciones en sus próximas evaluaciones. La investigación continúa y podrían conocerse nuevos detalles sobre las fallas utilizadas y el alcance real del incidente.
