Los modelos rebeldes de OpenAI hackearon otros servicios además de HuggingFace

Los modelos de OpenAI que se descontrolaron y 'hackearon' la plataforma de HuggingFace accedieron también a otros servicios con credenciales expuestas de manera pública en internet.

El 'hackeo' a HuggingFace se ha identificado como el primero realizado de manera autónoma por agentes de inteligencia artificial, en este caso, de OpenAI, pero no ha sido el único incidente de seguridad que han protagonizado.

OpenAI ha confirmado en una actualización de la investigación que han detectado "un pequeño número de casos en los que los modelos identificaron y usaron credenciales expuestas públicamente a nivel de cuenta en otros servicios de acceso público".

Para ello, usaron "sitios para compartir código, servicios de captura de peticiones, servicios de captura de pantalla y otras utilidades web" en sus' exploits', sin que se produjera "ninguna vulneración a nivel de plataforma ni de cuenta".

La compañía asegura que ninguno de estos otros incidentes llega al nivel de gravedad que tuvo el acceso a HuggingFace, y que ya se han puesto en contacto con los dueños de los servicios afectados.

Aunque OpenAI no menciona las empresas afectadas, medios como Axios han compartido que una de ellas es Modal Labs y, si bien no su infraestructura no se ha visto afectada, sí lo ha hecho un entorno de pruebas aislado ('sandbox') de un cliente.

Este 'sandbox' tenía una un punto de acceso no autenticado que permitía que cualquiera pudiera ejecutar código en él. El acceso no autorizado de los modelos de OpenAI está relacionado con la vulnerabilidad ExploitGym, la misma que les llevó a buscar información en HuggingFace.

El 'hackeo' se realizó en un entorno de pruebas "altamente aislado" y con acceso restringido a internet en el que se estaban evaluando las capacidades de GPT-5.6 Sol y "un modelo de prelanzamiento aún más capaz".

Entre las pruebas planteadas, los modelos llegaron a centrarse en encontrar una solución para ExploitGym. Para ello, de manera autónoma, accedieron a internet al encontrar y explotar una vulnerabilidad de día cero en el proxy de caché del registro de paquetes que les estaba limitando.