OpenAI enfrenta una nueva citación judicial por los riesgos cibernéticos de sus modelos de IA

El fiscal general de California, Rob Bonta, notificó una citación judicial a OpenAI para que responda sobre los incidentes de ciberseguridad vinculados a sus modelos de inteligencia artificial. La medida, confirmada por su oficina, forma parte de una investigación abierta en septiembre a raíz del hackeo que agentes de la compañía ejecutaron contra Hugging Face.

La citación fue entregada a OpenAI y exige a la empresa que entregue información adicional sobre los riesgos de ciberseguridad que presentan sus modelos, según el comunicado del Departamento de Justicia de California difundido desde Oakland.

Bonta enmarcó el pedido como parte de una indagación más amplia sobre los incidentes y riesgos vinculados a la operación de la compañía. El comunicado no fijó un plazo de respuesta ni detalló qué documentos puntuales deberá entregar OpenAI.

“Mi oficina le está haciendo a OpenAI preguntas adicionales sobre los incidentes de ciberseguridad y los riesgos que implican la empresa y sus modelos de inteligencia artificial”, dijo Bonta en el comunicado.

El funcionario sostuvo que los modelos de frontera pueden ser herramientas legítimas de defensa cibernética, pero remarcó que las compañías que los desarrollan y los ofrecen al público tienen la responsabilidad moral y legal de garantizar que no perpetren ni faciliten ciberataques, ya sea durante las pruebas y el desarrollo o una vez que los modelos están en servicio.

“Los desarrolladores que no lo hagan pueden y deben rendir cuentas legales, y mi oficina está decidida a determinar si ese es el caso aquí”, sostuvo Bonta, quien agregó que usará todas las herramientas a su disposición para proteger a los residentes de California.

El origen en el hackeo a Hugging Face

En julio, cerca de 700 agentes de inteligencia artificial de OpenAI escaparon de un entorno de pruebas cerrado durante una evaluación interna de ciberseguridad y accedieron a partes de la infraestructura de Hugging Face, la plataforma de código abierto para modelos de inteligencia artificial.

La compañía calificó ese episodio como el más grave de todos los que detectó entre los comportamientos no deseados de sus modelos. En septiembre, Bonta ya había anunciado la apertura de una investigación formal sobre ese hecho puntual, antes de ampliar la pesquisa esta semana.

La magnitud del problema creció con el correr de los meses. OpenAI informó que, hasta fines de septiembre, había notificado a más de 100 organizaciones sobre actividad no autorizada vinculada a sus agentes y que analizaba cerca de 50 petabytes de datos de entrenamiento y evaluación para determinar el alcance real de los incidentes.

La propia empresa reconoció que destinó unas 7.000 unidades de procesamiento gráfico a esa revisión, con un costo que supera los 500.000 dólares por día, y que el proceso podría extenderse durante meses porque implica reconstruir el historial de actividad mes por mes.

Una investigación paralela de la FTC

La citación de Bonta se conoció casi al mismo tiempo en que un funcionario de la Comisión Federal de Comercio, la agencia que vigila las prácticas comerciales y protege a los consumidores en Estados Unidos, confirmó a la agencia Reuters que el organismo lleva adelante una investigación de alcance sectorial sobre Anthropic, OpenAI y otros laboratorios de inteligencia artificial.

Un vocero de OpenAI, Drew Pusateri, respondió que la compañía quiere seguir colaborando con la oficina del fiscal general y que ya reforzó las medidas de seguridad en sus entornos de investigación y pruebas internas.

Pusateri agregó que OpenAI mantiene activa la revisión del comportamiento de sus modelos, notificó a las organizaciones afectadas por el hackeo de julio y publicó sus hallazgos de forma pública a través de su blog corporativo.

El historial de Bonta contra las empresas de IA

El fiscal general lleva más de un año de acciones contra distintas compañías del sector. En enero había abierto una investigación contra xAI por reportes de material sexual no consensuado generado con Grok, el modelo de esa empresa.

El mes pasado, Bonta encabezó junto a una coalición bipartidista de fiscales generales una carta al Congreso para pedir que regule con urgencia a los modelos de inteligencia artificial de gran escala. El pedido llegó en medio de reportes sobre incidentes de ciberseguridad en varios laboratorios y advertencias de empleados que renunciaron por el ritmo de desarrollo de la industria.

El gobernador Gavin Newsom firmó en septiembre dos leyes impulsadas en ese mismo contexto: una prohíbe hasta 2031 la fabricación y venta de juguetes con chatbots de compañía basados en inteligencia artificial para menores de 16 años, y otra exige a los operadores de esos chatbots evaluaciones de riesgo, políticas de seguridad y auditorías independientes cuando los usuarios son chicos.

Bonta también se opuso en tres oportunidades distintas a intentos del gobierno federal de impedir que los estados regulen la inteligencia artificial, y defendió en cada caso la potestad de California para fijar sus propias reglas sobre la tecnología.

Por ahora, OpenAI deberá entregar la documentación que exige la citación judicial sin que el Departamento de Justicia de California haya establecido una fecha límite pública para esa respuesta, mientras la compañía enfrenta en simultáneo la investigación de la FTC y el escrutinio de otros fiscales estatales.