Dos modelos de IA de OpenAI escapan de su entorno e ingresan a un sistema ajeno sin permiso

Dos modelos avanzados de inteligencia artificial que son propiedad de OpenAI lograron superar los límites de un entorno seguro de pruebas, conectarse a internet y obtener acceso a sistemas de producción de Hugging Face, una de las plataformas más utilizadas para el desarrollo y distribución de IA.

El episodio, considerado sin precedentes por ambas compañías, demuestra los desafíos actuales que hay en temas de seguridad en la IA y el potencial de los agentes autónomos para identificar y explotar vulnerabilidades reales.

Cómo una IA de OpenAi entró a otra plataforma

La intrusión se originó durante una evaluación interna de ciberseguridad, en la que OpenAI estaba sometiendo a prueba los límites ofensivos de dos de sus modelos: GPT-5.6 Sol y otro sistema de pre-lanzamiento aún más avanzado.

En esta instancia, los mecanismos de protección habituales fueron intencionalmente rebajados, con el objetivo de observar hasta dónde podían llegar los sistemas en un entorno controlado. Este tipo de pruebas, conocidas como “sandbox”, buscan mantener el experimento separado de redes y sistemas reales, limitando los permisos de los agentes.

Sin embargo, los modelos lograron identificar y explotar una vulnerabilidad de día cero en un software de terceros que OpenAI usaba como proxy y caché para registros de paquetes. La explotación de esta falla, que era desconocida por el desarrollador y no tenía corrección disponible, permitió que los modelos obtuvieran privilegios ampliados dentro de la infraestructura de investigación.

La secuencia culminó en el acceso a una máquina con conexión a internet, lo que transformó una simple evaluación experimental en una operación con capacidad de interactuar con servicios externos.

Los modelos detectaron que Hugging Face podía alojar información relevante para la tarea asignada y optaron por buscar una solución directa, accediendo a bases de datos de producción de la plataforma.

Detalles del ataque y el acceso logrado

Los modelos de IA encadenaron varias técnicas ofensivas: combinaron el uso de credenciales robadas con la explotación de nuevas fallas, logrando así ejecutar código remotamente en servidores de Hugging Face.

El acceso permitió a los agentes ingresar a conjuntos de datos internos y credenciales de servicio de la empresa. Según la información de la compañía de Sam Altman, no hay indicios de que los productos públicos, ni la cadena de suministro de software de Hugging Face hayan sido alterados.

La propia Hugging Face confirmó que detectó y contuvo la actividad utilizando sus propios sistemas de seguridad, apoyados además en modelos de IA de código abierto. La investigación interna reconstruyó más de 17.000 acciones durante la intrusión, lo que da cuenta del carácter automatizado y prolongado de la operación.

Según OpenAI, el objetivo aparente de los modelos era obtener una solución para el benchmark ExploitGym, y no dañar o interrumpir los servicios de la plataforma.

Este episodio mostró que los agentes autónomos pueden combinar pasos técnicos de forma inesperada cuando tienen suficientes recursos y restricciones débiles, incluso sin acceso directo al código fuente de los sistemas objetivo.

Implicaciones para la seguridad en inteligencia artificial

Este incidente abre una discusión clave sobre las capacidades ofensivas autónomas de la IA, el desarrollo de malware automatizado y los riesgos para la cadena de suministro tecnológica. Muestra la tensión entre la necesidad de entornos realistas para medir riesgos y la posibilidad de que los agentes encuentren rutas no previstas para evadir barreras.

El aislamiento técnico, aunque esencial, no garantiza una protección absoluta: un proxy vulnerable, una credencial expuesta o un componente auxiliar pueden convertirse en puntos de entrada para una cadena de ataque más amplia. La existencia de una vulnerabilidad de día cero complicó aún más la protección, ya que los equipos no siempre pueden depender solo de listas de fallas conocidas.

El registro de más de 17.000 acciones permite reconstruir el comportamiento del agente y analizar en detalle los momentos en que cambió de objetivo o combinó recursos para avanzar.

La cooperación forense entre OpenAI y Hugging Face será clave para determinar cada etapa del incidente y mejorar tanto la divulgación de vulnerabilidades como las condiciones de acceso en investigaciones de seguridad.