Un grupo de adolescentes en Tennessee ha presentado una demanda alegando que el chatbot Grok, desarrollado por xAI —la empresa de inteligencia artificial dirigida por Elon Musk—, fue utilizado para crear imágenes sexualizadas de menores a partir de fotografías originales en las que aparecían vestidos.
Según la denuncia, gran parte de esas imágenes manipuladas circularon en plataformas como Discord y Telegram, y algunas incluso fueron intercambiadas por material de abuso sexual infantil.
La acción legal, presentada en el Distrito Norte de California y reportada por The Washington Post, marca el primer caso en el que presuntas víctimas menores de edad buscan responsabilizar a una empresa de IA por la creación y difusión de este tipo de contenidos.
La demanda: cómo se generaron y difundieron las imágenes manipuladas
La investigación policial que dio pie a la demanda reveló que un individuo arrestado en diciembre utilizó Grok y otras herramientas de edición basadas en inteligencia artificial para “desnudar” digitalmente a adolescentes, alterando imágenes tomadas de redes sociales como Instagram.
Entre las víctimas figuran, según la denuncia, al menos 18 estudiantes de la misma escuela, cuyas fotos fueron editadas por IA para mostrar desnudos falsos y luego distribuidas en chats grupales de Telegram, donde se compartieron junto con otros archivos de contenido sexual explícito de menores.
La madre de una de las adolescentes, citada bajo anonimato por The Washington Post, describió el impacto emocional en su hija tras enterarse de la difusión de las imágenes: “Sin duda, la hizo encerrarse un poco en sí misma, algo que nunca habíamos visto antes”.
Los demandantes solicitan una compensación por cada infracción y buscan prohibir que xAI permita el uso de sus herramientas para editar imágenes como las que alteraron sus fotografías.
La abogada Vanessa Baehr-Jones, representante legal de los jóvenes, subrayó: “Estos jóvenes —estos niños— se enfrentan a una vida entera con imágenes sexualizadas de lo que parece ser el cuerpo de un niño circulando por internet. Esto no habría sido posible sin la herramienta que xAI lanzó, a sabiendas de que este material podía generarse”.
Respuesta de xAI y el entorno regulatorio
Hasta el momento, ni Elon Musk ni xAI han respondido a las solicitudes de comentarios. En declaraciones previas en la red social X, Musk afirmó: “Literalmente ninguna” imagen de menores desnudos había sido generada por Grok y sostuvo que el chatbot rechaza solicitudes de contenido ilegal.
Aunque reconoció que un ataque informático malicioso podría provocar respuestas inesperadas del sistema: “Si eso sucede, corregimos el error de inmediato”, aseguró.
La demanda —que cita investigaciones de autoridades estadounidenses y europeas— sostiene que la edición de imágenes de menores mediante IA constituye pornografía infantil y responsabiliza a xAI por lanzar una función plagada de defectos de diseño que, según los abogados, facilitó la creación y circulación de miles de imágenes sexualizadas.
El medio citado reportó que el propio sistema Grok Imagine y su modo “Spicy” permitieron a los usuarios crear imágenes sexuales de personas reales, lo que generó la apertura de investigaciones por parte de la fiscalía de California, la Comisión Europea y organismos reguladores británicos.
Además, la denuncia argumenta que las imágenes y videos originales subidos por los usuarios solo se convierten en ilegales tras ser modificados en los servidores de xAI, y que la empresa permitió la monetización de estas funciones pese a conocer sus riesgos.
El impacto en las víctimas y la reacción social
Las consecuencias del escándalo se extienden mucho más allá de la difusión de las imágenes. Según los abogados de las adolescentes, las víctimas probablemente recibirán notificaciones del Centro Nacional para Niños Desaparecidos y Explotados durante años, alertando sobre la posesión o distribución de archivos sexualmente explícitos en los que aparecen representadas.
La abogada Annika K. Martin, representante principal de las demandantes, planteó una serie de preguntas que dirigiría personalmente a Elon Musk por el papel de xAI en la creación y proliferación de este material.
El caso pone de relieve la urgencia de regular el uso de inteligencia artificial en la manipulación de imágenes y el debate sobre la responsabilidad de las empresas tecnológicas en la protección de menores frente a los riesgos de la automatización digital.
Últimas Noticias
Expertos revelan cómo interactuar con la IA para aprovechar todo su potencial
Los modelos modernos han avanzado en la comprensión de instrucciones y son menos susceptibles a ser “influenciados” por cambios sutiles en el tono
¿Dónde quedan guardadas tus fotos de WhatsApp? Así las encuentras en Android y iPhone
Por defecto, en ambos sistemas, las imágenes que recibes suelen guardarse automáticamente en la memoria del teléfono o en la galería
Inteligencia artificial y diseño inclusivo: claves para la autonomía digital de los silver
El diseño inclusivo y el desarrollo de soluciones colaborativas impulsan nuevas formas de participación y confianza en la tecnología para quienes enfrentan más obstáculos
Nokia 1100 en 2026: ¿es posible usar hoy este celular y dónde comprarlo?
Este dispositivo ha revivido gracias al interés en plataformas de compraventa online y subastas tecnológicas
Correr con Apple: así cambiará tu experiencia en la Maratón de Londres con el nuevo socio tecnológico
Esta alianza estratégica refuerza el compromiso de ambas organizaciones por fomentar la actividad física y brindar herramientas de salud a deportistas
