Investigación. OpenAI admitió que una de sus IAs "escapó" de una prueba y hackeó la plataforma Hugging Face
La compañía creadora de ChatGPT reconoció que uno de sus modelos experimentales logró salir del entorno aislado donde era evaluado y accedió sin autorización a los sistemas de una de las principales plataformas del mundo para compartir modelos de inteligencia artificial. El incidente ocurrió durante una prueba de ciberseguridad.
OpenAI, la empresa creadora de ChatGPT, confirmó este martes que uno de sus modelos de inteligencia artificial accedió sin autorización a los sistemas de Hugging Face durante una prueba interna de ciberseguridad, luego de escapar del entorno aislado en el que estaba siendo evaluado.
Según explicó la compañía en un comunicado, el incidente involucró a GPT-5.6 Sol y a otro modelo aún más avanzado que todavía no fue presentado públicamente.
We're partnering with @huggingface to investigate an unprecedented security incident.
— OpenAI (@OpenAI) July 21, 2026
Cyber-capable OpenAI models compromised Hugging Face production during a benchmark evaluation.
Sharing preliminary findings to help defenders understand emerging risks:…
Ambos estaban siendo sometidos a pruebas con restricciones reducidas para evaluar sus capacidades ofensivas en materia de seguridad informática.
Qué es Hugging Face y por qué fue el objetivo
Hugging Face es una de las principales plataformas del mundo dedicadas a la inteligencia artificial. Funciona como un repositorio, similar a Github, donde investigadores, empresas y desarrolladores comparten modelos de IA, bases de datos y herramientas para entrenar, probar y evaluar sistemas de aprendizaje automático.
Según OpenAI, una vez que el modelo consiguió acceder a internet identificó que la plataforma almacenaba información relacionada con el ejercicio que estaba resolviendo, lo que la convirtió en su objetivo.
Cómo el modelo logró salir del entorno de pruebas
De acuerdo con OpenAI, los modelos participaban en una evaluación basada en ExploitGym, un benchmark diseñado para medir la capacidad de una IA para explotar vulnerabilidades informáticas ya conocidas.
En teoría, el sistema no debía tener acceso libre a internet. Sin embargo, los investigadores descubrieron que el modelo encontró una vulnerabilidad en la herramienta utilizada para instalar paquetes de software y la aprovechó para salir del entorno controlado y navegar por la red sin restricciones.
Cómo se produjo el acceso a Hugging Face
Una vez fuera del entorno de pruebas, la inteligencia artificial encontró vulnerabilidades en la infraestructura de Hugging Face y las utilizó para acceder a información confidencial.
El objetivo era obtener directamente las respuestas del benchmark y mejorar su desempeño durante la evaluación, lo que equivalía a "hacer trampa" en la prueba.
Desde la perspectiva de Hugging Face, el episodio se presentó inicialmente como un sofisticado ciberataque protagonizado por un supuesto "agente de inteligencia artificial externo", capaz de ejecutar miles de acciones coordinadas desde múltiples entornos temporales.
Posteriormente, OpenAI confirmó que el origen del incidente eran sus propios modelos experimentales.
OpenAI implementará nuevas medidas de seguridad
Tras la investigación, la empresa informó que ya identificó la vulnerabilidad utilizada por los modelos para escapar del entorno aislado y notificó el problema a los responsables del software afectado.
Además, indicó que trabaja junto con Hugging Face para esclarecer todos los detalles del incidente e implementar nuevas medidas de seguridad tanto en la infraestructura de pruebas como en los sistemas utilizados para evaluar modelos de inteligencia artificial.
Un nuevo debate sobre los riesgos de la IA avanzada
El episodio volvió a poner sobre la mesa las preocupaciones sobre el comportamiento de los modelos de inteligencia artificial más avanzados cuando operan con objetivos complejos y durante períodos prolongados.
Aunque el ataque se produjo en el marco de una prueba controlada, todavía no está claro si OpenAI podría enfrentar consecuencias legales, ya que las acciones del modelo podrían encuadrarse dentro de la legislación estadounidense sobre acceso no autorizado a sistemas informáticos.
Para Micah Carroll, investigador de OpenAI, el incidente constituye una advertencia sobre los desafíos que plantea el desarrollo de modelos cada vez más capaces.
"Si esto no convence de que los riesgos de desalineación van a ser una preocupación clave en el futuro, no sé qué lo hará", afirmó el investigador al medio especializado Techcrunch tras conocerse el caso.
