La Oficina de Responsabilidad Gubernamental (GAO), el organismo de control del Congreso de Estados Unidos, identigicó que ChatGPT, Claude y Grok generó información viable para planear atentados con explosivos y ataques a la red eléctrica. Cada plataforma tardó menos de 12 horas en hacerlo.
Los investigadores hicieron las pruebas en secreto y sin avisar a las empresas. Dos plataformas produjeron planes para fabricar y detonar un artefacto explosivo improvisado en un vehículo. Las otras dos, para atacar subestaciones eléctricas, una con un dron y otra con armas de fuego.
PUBLICIDAD
Las cuatro propusieron un lugar concreto en una gran ciudad de Estados Unidos: un hotel, un centro de convenciones o subestaciones eléctricas. Tres sugirieron cuándo actuar. Dos dieron fechas y horas exactas y otra señaló una estación del año. Según ABC News, las que planeaban explosivos incluyeron consejos para evitar a la policía.
La GAO aclara que la información no era nueva. La diferencia es que las plataformas la reunieron en planes viables en cuestión de horas y no de semanas o meses.
Las protecciones se activaron, pero se esquivaron con la IA
En todos los casos, los pedidos de la GAO activaron las defensas de los chatbots: rechazaron la solicitud, borraron información o suspendieron la cuenta. Los investigadores las sortearon con técnicas comunes para saltarse esas barreras. El informe no detalla las instrucciones ni los métodos, para que nadie pueda repetir la prueba.
PUBLICIDAD
Después, la GAO verificó que los planes funcionarían mediante investigación, vigilancia y entrevistas con expertos. Entre ellos estuvo el comandante de una unidad antibombas de los bomberos de una gran ciudad. Kevin Walsh, director de la GAO para tecnología de la información y ciberseguridad, dijo que los especialistas confirmaron que el explosivo detonaría.

Walsh sostuvo que el resultado muestra que los productos “no están totalmente bajo el control de las empresas que los operan ... Obtuvimos la información nefasta que buscábamos”. De hecho, un tercio de las respuestas fue inofensivo y otro tercio fueron rechazos.
La propia GAO reconoce los límites del trabajo. Probó cada plataforma una sola vez, asignó los escenarios al azar y admite que los resultados reflejan un momento determinado y no una muestra estadísticamente significativa. Tampoco revela qué plataforma produjo cada plan.
PUBLICIDAD
OpenAI, Anthropic y SpaceXAI respondieron ante las pruebas
Las cuatro compañías enviaron declaraciones que se incluyeron en el informe. Anthropic, que desarrolla Claude, afirmó que diseña sus protecciones “bajo el supuesto de que cualquier medida individual puede ser vulnerada”. Y objetó que los modelos no se evaluaran con el mismo escenario y que la GAO no estableciera una referencia sin chatbot para medir cuánta ventaja da la herramienta.
OpenAI, dueña de ChatGPT, dijo que tomó el informe en serio y que su modelo más reciente, GPT-6 Astra, rechazó las solicitudes que habían producido tres de las respuestas que no cumplían sus políticas. Google, responsable de Gemini, remitió a sus normas contra los usos dañinos.
PUBLICIDAD
SpaceXAI, la empresa de Grok, sostuvo que las cuentas de pago usadas tienen un perfil de menor riesgo. Las cuatro compañías afirmaron que sus productos mejoraron desde las pruebas.
El estudio lo pidió la senadora demócrata, Maggie Hassan, de New Hampshire. “Un terrorista puede entrar en una plataforma de IA y en menos de 12 horas salir con un manual concreto para cometer un atentado mortal”, dijo. A diferencia de otros informes de la GAO, este no incluye recomendaciones, porque evalúa productos de terceros y no organismos del gobierno.
Hassan presidirá la comisión de Seguridad Nacional y Asuntos Gubernamentales del Senado cuando los demócratas recuperen el control en el nuevo Congreso. Según dijo, una de las primeras audiencias de esa comisión tratará sobre la seguridad de la inteligencia artificial.
PUBLICIDAD
PUBLICIDAD
PUBLICIDAD
Últimas Noticias
Xuper TV y Magis TV: por qué son apps que nunca se deben usar para ver películas gratis
El riesgo es mayor con los denominados Set-Top Boxes, equipos que permiten ver contenidos sin contratar suscripciones pagas

Uber empezó a probar viajes para niños de 10 a 12 años en tres ciudades de Estados Unidos
Los padres piden el viaje, un adulto debe esperar al niño en la puerta y el conductor graba todo el recorrido con audio y video

Cómo hacer la foto de perfil de WhatsApp al estilo GTA 6
El procedimiento requiere la carga de una imagen de referencia con un prompt específico que reproduce el estilo visual de la saga de Rockstar Games

“Es el mayor emprendedor de nuestro tiempo”: David Ellison celebra la entrada de Elon Musk en Skydance
Elon Musk habría invertido cerca de 1.000 millones de dólares en Skydance, la empresa resultante de la fusión entre Paramount y Warner Bros. Discovery



