Arizona abrió una investigación penal contra OpenAI por agentes de IA que se habrían infiltrado en bancos

El caso se suma a la demanda presentada en California y profundiza el escrutinio estatal sobre la seguridad de los agentes de inteligencia artificial de la empresa

La fiscalía de Arizona examina si el accionar de los agentes vulnera la ley estatal de forma continua, sin presentar cargos penales formales hasta el momento (REUTERS/Dado Ruvic/Illustration)
La fiscalía de Arizona examina si el accionar de los agentes vulnera la ley estatal de forma continua, sin presentar cargos penales formales hasta el momento (REUTERS/Dado Ruvic/Illustration)
Guardar

El estado de Arizona abrió una investigación penal contra OpenAI y otras empresas de inteligencia artificial por la “aparente infiltración de bancos por agentes de IA descontrolados”, mencionó el miércoles 18 de noviembre la fiscal general Kris Mayes.

La letrada habló en una conferencia de prensa en Chicago, según la agencia Reuters. “El estado de Arizona está muy preocupado por esto y lo estamos analizando desde varios ángulos”, afirmó. Su oficina examina si se viola la ley estatal de manera continua, no solo en un episodio pasado.

PUBLICIDAD

Una investigación penal no implica que se presenten cargos. La fiscal no identificó a las demás empresas investigadas. Dijo que su oficina estuvo en contacto con bancos de Arizona, pero no los nombró ni informó qué respondieron. En lo difundido hasta ahora no se precisa qué hicieron los agentes dentro de las entidades financieras ni se informa de clientes afectados.

La fiscal general de Arizona, Kris Mayes, abrió una investigación penal contra OpenAI y otras empresas por la presunta infiltración de agentes de inteligencia artificial en entidades bancarias (REUTERS/Nathan Howard/File Photo)
La fiscal general de Arizona, Kris Mayes, abrió una investigación penal contra OpenAI y otras empresas por la presunta infiltración de agentes de inteligencia artificial en entidades bancarias (REUTERS/Nathan Howard/File Photo)

Segunda acción estatal contra OpenAI en dos días

Dos días antes, el 16 de noviembre, el fiscal general de California, Rob Bonta, demandó a OpenAI. La acusación sostiene que la empresa desarrolló modelos de IA capaces de ejecutar ciberataques sin las salvaguardas ni la supervisión necesarias para proteger al público.

PUBLICIDAD

Según la demanda, en julio agentes que funcionaban sobre versiones experimentales de modelos de OpenAI escaparon de su entorno de pruebas y atacaron a Hugging Face, una plataforma de código abierto donde se alojan modelos de IA. El ataque duró unos dos días y medio.

El documento calcula que unos 700 agentes participaron y que realizaron unas 17.600 acciones, una escala que un atacante humano no podría sostener. Remediar el daño ocupó a todo el equipo de seguridad de Hugging Face durante dos semanas. La demanda añade que OpenAI admitió ante la fiscalía californiana haber perdido el control de sus agentes más de 80 veces durante pruebas, aunque solo informó públicamente de 27 incidentes.

Un vocero de OpenAI, Drew Pusateri, dijo según Bloomberg Law que la demanda parece señalar a la empresa por un problema que identificó cada gran laboratorio de IA, y que la compañía seguirá trabajando con la oficina de Bonta en normas de seguridad.

OpenAI admitió ante las autoridades judiciales de California que perdió el control de sus agentes experimentales en más de 80 ocasiones (REUTERS/Dado Ruvic/Illustration/File Photo)
OpenAI admitió ante las autoridades judiciales de California que perdió el control de sus agentes experimentales en más de 80 ocasiones (REUTERS/Dado Ruvic/Illustration/File Photo)

La empresa también reconoció la necesidad de más transparencia sobre el comportamiento descontrolado de la IA, según Reuters. El 16 de septiembre publicó un marco para informar esos incidentes y prometió inclinarse por la transparencia “incluso cuando la importancia es incierta”.

Los bancos ya bloqueaban a los agentes externos

Reuters informó el mes pasado que grandes bancos de Estados Unidos impiden que agentes de IA de terceros operen dentro de las cuentas de clientes y hagan transacciones. El sector teme que agentes sofisticados dañen el sistema bancario y a las instituciones que custodian el patrimonio de las personas.

El sitio Investing.com señaló que una serie de caídas de infraestructura en Estados Unidos durante la última semana, entre ellas algunas de bancos, alimentó el temor a ataques de agentes, aunque no se divulgó ningún incidente de ese tipo.

Arizona ya tenía otro frente abierto con la compañía. El 14 de octubre, Mayes demandó a OpenAI ante un tribunal del condado de Maricopa. Según el comunicado de su oficina, ChatGPT oculta rasgos de diseño que lo vuelven extremadamente complaciente y atraen a menores, en violación de la ley estatal de fraude al consumidor.

PUBLICIDAD

PUBLICIDAD