Adolescentes acusan al chatbot Grok de Elon Musk de generar imágenes sexuales de ellos siendo menores

Un grupo de adolescentes en Tennessee ha presentado una demanda alegando que el chatbot Grok, desarrollado por xAI —la empresa de inteligencia artificial dirigida por Elon Musk—, fue utilizado para crear imágenes sexualizadas de menores a partir de fotografías originales en las que aparecían vestidos.

Según la denuncia, gran parte de esas imágenes manipuladas circularon en plataformas como Discord y Telegram, y algunas incluso fueron intercambiadas por material de abuso sexual infantil.

La acción legal, presentada en el Distrito Norte de California y reportada por The Washington Post, marca el primer caso en el que presuntas víctimas menores de edad buscan responsabilizar a una empresa de IA por la creación y difusión de este tipo de contenidos.

La demanda: cómo se generaron y difundieron las imágenes manipuladas

La investigación policial que dio pie a la demanda reveló que un individuo arrestado en diciembre utilizó Grok y otras herramientas de edición basadas en inteligencia artificial para “desnudar” digitalmente a adolescentes, alterando imágenes tomadas de redes sociales como Instagram.

Entre las víctimas figuran, según la denuncia, al menos 18 estudiantes de la misma escuela, cuyas fotos fueron editadas por IA para mostrar desnudos falsos y luego distribuidas en chats grupales de Telegram, donde se compartieron junto con otros archivos de contenido sexual explícito de menores.

La madre de una de las adolescentes, citada bajo anonimato por The Washington Post, describió el impacto emocional en su hija tras enterarse de la difusión de las imágenes: “Sin duda, la hizo encerrarse un poco en sí misma, algo que nunca habíamos visto antes”.

Los demandantes solicitan una compensación por cada infracción y buscan prohibir que xAI permita el uso de sus herramientas para editar imágenes como las que alteraron sus fotografías.

La abogada Vanessa Baehr-Jones, representante legal de los jóvenes, subrayó: “Estos jóvenes —estos niños— se enfrentan a una vida entera con imágenes sexualizadas de lo que parece ser el cuerpo de un niño circulando por internet. Esto no habría sido posible sin la herramienta que xAI lanzó, a sabiendas de que este material podía generarse”.

Respuesta de xAI y el entorno regulatorio

Hasta el momento, ni Elon Musk ni xAI han respondido a las solicitudes de comentarios. En declaraciones previas en la red social X, Musk afirmó: “Literalmente ninguna” imagen de menores desnudos había sido generada por Grok y sostuvo que el chatbot rechaza solicitudes de contenido ilegal.

Aunque reconoció que un ataque informático malicioso podría provocar respuestas inesperadas del sistema: “Si eso sucede, corregimos el error de inmediato”, aseguró.

La demanda —que cita investigaciones de autoridades estadounidenses y europeas— sostiene que la edición de imágenes de menores mediante IA constituye pornografía infantil y responsabiliza a xAI por lanzar una función plagada de defectos de diseño que, según los abogados, facilitó la creación y circulación de miles de imágenes sexualizadas.

El medio citado reportó que el propio sistema Grok Imagine y su modo “Spicy” permitieron a los usuarios crear imágenes sexuales de personas reales, lo que generó la apertura de investigaciones por parte de la fiscalía de California, la Comisión Europea y organismos reguladores británicos.

Además, la denuncia argumenta que las imágenes y videos originales subidos por los usuarios solo se convierten en ilegales tras ser modificados en los servidores de xAI, y que la empresa permitió la monetización de estas funciones pese a conocer sus riesgos.

El impacto en las víctimas y la reacción social

Las consecuencias del escándalo se extienden mucho más allá de la difusión de las imágenes. Según los abogados de las adolescentes, las víctimas probablemente recibirán notificaciones del Centro Nacional para Niños Desaparecidos y Explotados durante años, alertando sobre la posesión o distribución de archivos sexualmente explícitos en los que aparecen representadas.

La abogada Annika K. Martin, representante principal de las demandantes, planteó una serie de preguntas que dirigiría personalmente a Elon Musk por el papel de xAI en la creación y proliferación de este material.

El caso pone de relieve la urgencia de regular el uso de inteligencia artificial en la manipulación de imágenes y el debate sobre la responsabilidad de las empresas tecnológicas en la protección de menores frente a los riesgos de la automatización digital.