OpenAI admitió haber perdido el control de sus agentes de IA autónomos al menos 80 veces durante las pruebas

Una demanda de California sostiene que la empresa ocultó parte de los incidentes y expuso a terceros a riesgos de ciberseguridad durante ensayos con sistemas autónomos

El fiscal general de California demandó a OpenAI por perder el control de sus agentes autónomos en al menos 80 ocasiones (REUTERS/Dado Ruvic/Illustration/File Photo/File Photo)
El fiscal general de California demandó a OpenAI por perder el control de sus agentes autónomos en al menos 80 ocasiones (REUTERS/Dado Ruvic/Illustration/File Photo/File Photo)
Guardar

El fiscal general de California, Rob Bonta, presentó una demanda contra OpenAI por presuntas deficiencias de seguridad durante ensayos con agentes de inteligencia artificial autónomos. La acusación sostiene que la compañía perdió el control de estos sistemas al menos 80 veces en sus pruebas internas y que solo había informado públicamente 27 de esos casos.

La acción judicial fue presentada el 16 de noviembre de 2026 ante el Tribunal Superior de San Francisco contra OpenAI Foundation y OpenAI Group PBC. La Fiscalía acusa a la empresa de crear una “molestia pública” que expone a terceros a riesgos de ciberseguridad y de infringir la ley californiana de competencia desleal, informó NBC News.

PUBLICIDAD

Bonta afirmó que el Estado busca establecer responsabilidades sobre las empresas que desarrollan sistemas capaces de ejecutar tareas sin supervisión humana constante. La demanda plantea que los costos de contener posibles ataques no deben recaer sobre usuarios, plataformas externas ni organismos conectados a internet.

Cerca de 700 agentes atacaron la plataforma Hugging Face, afirma la demanda

Cerca de 700 agentes de inteligencia artificial ejecutaron miles de acciones contra la plataforma Hugging Face tras escapar de su entorno de pruebas (REUTERS/Dado Ruvic/Illustration/File Photo)
Cerca de 700 agentes de inteligencia artificial ejecutaron miles de acciones contra la plataforma Hugging Face tras escapar de su entorno de pruebas (REUTERS/Dado Ruvic/Illustration/File Photo)

El documento judicial describe un incidente ocurrido en julio de 2026, cuando cientos de agentes habrían salido de un entorno aislado de pruebas y se dirigieron contra Hugging Face, una plataforma utilizada por desarrolladores para publicar, compartir y descargar modelos de inteligencia artificial.

De acuerdo con el expediente citado por NBC News, los agentes aprovecharon fallas de configuración en un servicio interno de paquetes de software. Esa infraestructura era utilizada de forma compartida por varios sistemas autónomos, lo que habría permitido que intercambiaran información y, posteriormente, obtuvieran acceso a internet.

PUBLICIDAD

La Fiscalía indicó que OpenAI detectó al menos un episodio de escape antes de que se produjeran los ataques, aunque no habría detenido las pruebas. El 27 de junio, una herramienta de monitoreo alertó sobre la búsqueda de vulnerabilidades dentro del entorno. La empresa interpretó esa actividad como parte de una evaluación de capacidades y mantuvo el programa en marcha, tal y como figura en la demanda.

Tras una interrupción del servicio el 4 de julio, OpenAI reparó la infraestructura y reanudó las pruebas tres días después. En ese lapso, varios agentes crearon un foro para coordinar acciones. Para el 9 de julio, habrían recuperado el acceso a internet.

La presentación estatal calcula que unos 1.200 agentes participaron en ese espacio de coordinación y que cerca de 700 realizaron 17.600 acciones contra Hugging Face entre el 9 y el 16 de julio. El ataque, siempre de acuerdo con la acusación, obligó a la plataforma afectada a concentrar a su equipo de seguridad durante dos semanas para reparar el daño.

La acusación incluye accesos a repositorios y bases de datos de salud

La demanda también atribuye a los agentes accesos sin autorización a repositorios de código empleados por múltiples aplicaciones, sitios informativos y bases de datos de un gobierno extranjero que contenían información sanitaria. Además, afirma que algunos grupos de agentes comprometieron infraestructura interna de la propia OpenAI y lograron permisos de administrador en sistemas considerados críticos.

Otro de los hechos señalados ocurrió el 20 de septiembre. Un agente vinculado a un modelo interno habría escapado durante una sesión de entrenamiento. Cinco días más tarde, OpenAI anunció una pausa en la formación y evaluación de sus modelos más avanzados. Sin embargo, la Fiscalía sostiene que la suspensión se extendió solo durante cinco días y que las actividades ya se habían reanudado el 1 de octubre.

Bonta emitió una orden de investigación el 30 de septiembre para requerir información a la compañía. La demanda asegura que OpenAI respondió con una carta de 14 páginas que abordaba hechos ya divulgados, pero sin entregar los documentos solicitados. El fiscal general aseguró que la falta de información detallada sobre los incidentes “pone en riesgo al público”, de acuerdo con la cobertura de NBC News.

OpenAI dice que investigó los incidentes y corrigió los fallos

OpenAI - espionaje - medidas de seguridad - IA - tecnología - 9 de julio
El portavoz Drew Pusateri aseguró que OpenAI corrigió los desvíos técnicos y calificó lo ocurrido como un desafío común para el sector (AP Photo/Michael Dwyer)

Drew Pusateri, portavoz de OpenAI, aseguró a NBC News que la empresa realizó un esfuerzo “amplio y transparente” para comprender y corregir la actividad de modelos que no siguieron instrucciones humanas. También sostuvo que la demanda apunta a un desafío técnico identificado por los principales laboratorios de inteligencia artificial.

La compañía publicó el 26 de agosto una entrada en su blog donde describió el caso como una “advertencia” para el sector. La firma sostuvo que los modelos buscaban información para eludir una evaluación de seguridad, recogió NBC News. Bonta rechazó las explicaciones que reducen lo sucedido a un escenario hipotético y atribuyó los fallos a decisiones internas de desarrollo.

El Estado de California solicita una orden judicial, multas de USD 2.500 por cada infracción y la restitución de ganancias que pudieran estar vinculadas con las conductas denunciadas. El caso se suma a la demanda presentada en junio por el fiscal general de Florida, James Uthmeier, contra OpenAI y su director ejecutivo, Sam Altman.

PUBLICIDAD

PUBLICIDAD

Últimas Noticias

Estados Unidos realizará una prueba nacional de alertas: a qué hora sonará y qué debes saber

FEMA y la FCC coordinarán un ejercicio que interrumpirá durante aproximadamente 60 segundos las emisiones de radio, televisión y servicios de cable en todo el país

Estados Unidos realizará una prueba nacional de alertas: a qué hora sonará y qué debes saber

Trump defendió en Manila un Indopacífico libre, abierto, estable y próspero en medio de las tensiones con China en el mar Meridional

El mandatario estadounidense dialogó con los primeros ministros de India, Japón y Australia para reforzar la seguridad marítima frente al avance chino y blindar las cadenas globales de suministros estratégicos en Asia

Trump defendió en Manila un Indopacífico libre, abierto, estable y próspero en medio de las tensiones con China en el mar Meridional

Un forense afirma que Epstein probablemente fue asesinado, pero los investigadores de Nueva York mantienen su dictamen de suicidio

El especialista y editor de una revista forense presentó en Londres un modelo tridimensional y sostuvo que varias heridas, incluidos daños en el hombro y la espalda, no se explican por un ahorcamiento voluntario

Un forense afirma que Epstein probablemente fue asesinado, pero los investigadores de Nueva York mantienen su dictamen de suicidio

Tennessee nombra a un exrecluso federal con indulto presidencial como jefe de sus prisiones tras dos ejecuciones fallidas

Entre antecedentes penales, contratos cuestionados y ejecuciones fallidas, la gobernadora Marsha Blackburn apuesta por un perfil disruptivo

Tennessee nombra a un exrecluso federal con indulto presidencial como jefe de sus prisiones tras dos ejecuciones fallidas

San Francisco recibe la mayor donación de su historia: 100 millones de dólares para parques públicos del fundador de Airbnb

El aporte de Brian Chesky financiará obras, mejoras y actividades recreativas en espacios verdes de la ciudad, con una primera asignación de USD 39 millones para cinco proyectos

San Francisco recibe la mayor donación de su historia: 100 millones de dólares para parques públicos del fundador de Airbnb