Congreso de EE.UU. revela que ChatGPT, Claude y Grok generaron planes de ataques en 12 horas

Los investigadores esquivaron las protecciones de cada chatbot con técnicas comunes y expertos confirmaron que las instrucciones funcionarían. Las empresas aseguran que sus sistemas mejoraron desde la prueba

La Oficina de Responsabilidad Gubernamental comprobó que cuatro modelos de inteligencia artificial generaron planes para atentados en menos de doce horas. (REUTERS/Dado Ruvic/Illustration)
La Oficina de Responsabilidad Gubernamental comprobó que cuatro modelos de inteligencia artificial generaron planes para atentados en menos de doce horas. (REUTERS/Dado Ruvic/Illustration)
Guardar

La Oficina de Responsabilidad Gubernamental (GAO), el organismo de control del Congreso de Estados Unidos, identigicó que ChatGPT, Claude y Grok generó información viable para planear atentados con explosivos y ataques a la red eléctrica. Cada plataforma tardó menos de 12 horas en hacerlo.

Los investigadores hicieron las pruebas en secreto y sin avisar a las empresas. Dos plataformas produjeron planes para fabricar y detonar un artefacto explosivo improvisado en un vehículo. Las otras dos, para atacar subestaciones eléctricas, una con un dron y otra con armas de fuego.

PUBLICIDAD

Las cuatro propusieron un lugar concreto en una gran ciudad de Estados Unidos: un hotel, un centro de convenciones o subestaciones eléctricas. Tres sugirieron cuándo actuar. Dos dieron fechas y horas exactas y otra señaló una estación del año. Según ABC News, las que planeaban explosivos incluyeron consejos para evitar a la policía.

Los sistemas de inteligencia artificial sugirieron ubicaciones específicas en ciudades de Estados Unidos y fechas para perpetrar los ataques. (REUTERS/Dado Ruvic/Illustration)
Los sistemas de inteligencia artificial sugirieron ubicaciones específicas en ciudades de Estados Unidos y fechas para perpetrar los ataques. (REUTERS/Dado Ruvic/Illustration)

La GAO aclara que la información no era nueva. La diferencia es que las plataformas la reunieron en planes viables en cuestión de horas y no de semanas o meses.

Las protecciones se activaron, pero se esquivaron con la IA

En todos los casos, los pedidos de la GAO activaron las defensas de los chatbots: rechazaron la solicitud, borraron información o suspendieron la cuenta. Los investigadores las sortearon con técnicas comunes para saltarse esas barreras. El informe no detalla las instrucciones ni los métodos, para que nadie pueda repetir la prueba.

PUBLICIDAD

Después, la GAO verificó que los planes funcionarían mediante investigación, vigilancia y entrevistas con expertos. Entre ellos estuvo el comandante de una unidad antibombas de los bomberos de una gran ciudad. Kevin Walsh, director de la GAO para tecnología de la información y ciberseguridad, dijo que los especialistas confirmaron que el explosivo detonaría.

Especialistas de una unidad antibombas confirmaron que el artefacto explosivo detallado por las plataformas funcionaría. (AP Foto/Allison Robbert)
Especialistas de una unidad antibombas confirmaron que el artefacto explosivo detallado por las plataformas funcionaría. (AP Foto/Allison Robbert)

Walsh sostuvo que el resultado muestra que los productos “no están totalmente bajo el control de las empresas que los operan ... Obtuvimos la información nefasta que buscábamos”. De hecho, un tercio de las respuestas fue inofensivo y otro tercio fueron rechazos.

La propia GAO reconoce los límites del trabajo. Probó cada plataforma una sola vez, asignó los escenarios al azar y admite que los resultados reflejan un momento determinado y no una muestra estadísticamente significativa. Tampoco revela qué plataforma produjo cada plan.

OpenAI, Anthropic y SpaceXAI respondieron ante las pruebas

Las cuatro compañías enviaron declaraciones que se incluyeron en el informe. Anthropic, que desarrolla Claude, afirmó que diseña sus protecciones “bajo el supuesto de que cualquier medida individual puede ser vulnerada”. Y objetó que los modelos no se evaluaran con el mismo escenario y que la GAO no estableciera una referencia sin chatbot para medir cuánta ventaja da la herramienta.

OpenAI, dueña de ChatGPT, dijo que tomó el informe en serio y que su modelo más reciente, GPT-6 Astra, rechazó las solicitudes que habían producido tres de las respuestas que no cumplían sus políticas. Google, responsable de Gemini, remitió a sus normas contra los usos dañinos.

La comisión de Seguridad Nacional del Senado programará audiencias legislativas sobre la regulación de la inteligencia artificial. (REUTERS/Dado Ruvic/Illustration)
La comisión de Seguridad Nacional del Senado programará audiencias legislativas sobre la regulación de la inteligencia artificial. (REUTERS/Dado Ruvic/Illustration)

SpaceXAI, la empresa de Grok, sostuvo que las cuentas de pago usadas tienen un perfil de menor riesgo. Las cuatro compañías afirmaron que sus productos mejoraron desde las pruebas.

El estudio lo pidió la senadora demócrata, Maggie Hassan, de New Hampshire. “Un terrorista puede entrar en una plataforma de IA y en menos de 12 horas salir con un manual concreto para cometer un atentado mortal”, dijo. A diferencia de otros informes de la GAO, este no incluye recomendaciones, porque evalúa productos de terceros y no organismos del gobierno.

Hassan presidirá la comisión de Seguridad Nacional y Asuntos Gubernamentales del Senado cuando los demócratas recuperen el control en el nuevo Congreso. Según dijo, una de las primeras audiencias de esa comisión tratará sobre la seguridad de la inteligencia artificial.

PUBLICIDAD

PUBLICIDAD