OpenAI reconoce que GPT-5.6 Sol está detrás del acceso no autorizado a HuggingFace

OpenAI ha reconocido que varios de sus modelos, incluido GPT-5.6 Sol, estuvieron implicados en el ataque a la plataforma HuggingFace de la semana pasada, que destacó por estar impulsado "de principio a fin" por un agente de inteligencia artificial.

El ataque a HuggingFace se realizó en un entorno de pruebas "altamente aislado" y con acceso restringido a internet en el que se estaban evaluando las capacidades de GPT-5.6 Sol y "un modelo de prelanzamiento aún más capaz", según ha explicado el laboratorio de IA en un comunicado.

En este entorno, "los modelos identificaron y encadenaron vulnerabilidades en el entorno de investigación de OpenAI y la infraestructura de producción de HuggingFace para obtener soluciones de prueba directamente de la base de datos de producción de HuggingFace", y llegaron a centrarse en encontrar una solución para una vulnerabilidad concreta, ExploitGym.

Para encontrar esa solución, como explican desde OpenAI, los modelos accedieron a internet, algo que inicialmente no podían hacer, pero que consiguieron al encontrar y explotar una vulnerabilidad de día cero en el proxy de caché del registro de paquetes que les estaba limitando, que acompañaron de una escalada de privilegios y movimiento lateral en el entorno de pruebas.

Ya en Internet, los modelos dedujeron que HuggingFace "potencialmente alojaba modelos, conjuntos de datos y soluciones para ExploitGym", lo que les llevó acceder a "información secreta" de la plataforma. Esta fue, precisamente, la actividad sospechosa que detectó el equipo de seguridad de HuggingFace y les permitió iniciar las tareas de mitigación, incluidos "el proceso de contención y reconstrucción forense con sus propios modelos de código abierto".

OpenAI está trabajando con HuggingFace en la investigación de lo ocurrido y ya ha implementado medidas de protección para las futuras capacitaciones y evaluaciones de sus modelos. Asimismo, se ha incorporado a HuggingFace en el programa de acceso seguro para que puedan mejorar sus defensas.

Cuando HuggingFace informó del acceso no autorizado a sus sistemas, destacó la particularidad de este incidente de seguridad, ya que "fue impulsado, de principio a fin, por un sistema de agentes de IA autónomo".