Escándalo en X de Elon Musk: usan la IA Grok para mostrar mujeres sin ropa y publicar deepfakes

Las autoridades regulatorias de Europa, India, Malasia y otros países iniciaron investigaciones contra X, la red social propiedad de Elon Musk, luego de que su chatbot de inteligencia artificial Grok fuera utilizado para crear y difundir imágenes de mujeres sin ropa y, en los casos más graves, de menores de edad.

El escándalo se desató tras la circulación masiva de deepfakes generados con IA, elaborados a partir de fotos reales y compartidos abiertamente en la plataforma, lo que encendió alarmas sobre la falta de controles y salvaguardas en las herramientas de generación de imágenes de la compañía.

El caso escaló rápidamente a nivel internacional. En la Unión Europea, la Comisión confirmó que está analizando “muy seriamente” el funcionamiento de Grok, especialmente tras detectar que el sistema ofrecía resultados con contenido sexual explícito, incluso vinculado a imágenes infantiles.

“Esto no es ‘contenido picante’. Es ilegal, espantoso y no tiene cabida en Europa”, afirmó el portavoz comunitario Thomas Regnier en conferencia de prensa. En paralelo, el regulador británico Ofcom solicitó información formal a X para evaluar posibles incumplimientos de la normativa de seguridad digital.

Las investigaciones no se limitan a Europa. En India, el Ministerio de Electrónica y Tecnología de la Información ordenó a X realizar una auditoría integral de Grok, tanto a nivel técnico como de gobernanza, tras detectar un aumento en el uso de la herramienta para generar imágenes íntimas no consensuadas.

Malasia, por su parte, anunció que citará a representantes de la compañía y exigió que las plataformas con funciones de IA refuercen sus mecanismos de protección, en línea con las leyes locales. En América Latina, una parlamentaria brasileña solicitó a la fiscalía federal y a la autoridad de protección de datos que evalúen la suspensión temporal de Grok hasta que concluyan las investigaciones.

El detonante de esta crisis fue la reciente actualización de la función Grok Imagine, que facilitó la creación de imágenes a partir de simples indicaciones de texto. Según expertos y organizaciones de seguridad digital, esta mejora técnica no vino acompañada de filtros eficaces para bloquear contenidos abusivos, lo que permitió a usuarios generar y difundir imágenes sexualizadas sin consentimiento.

Mientras crecía la polémica, la reacción de Elon Musk generó aún más controversia. El empresario compartió en su propia cuenta imágenes generadas por Grok, incluida una en la que aparecía él mismo en bikini, acompañadas de emojis de risa. Para muchos críticos, este gesto evidenció una falta de seriedad frente a un problema que involucra abuso digital y posibles delitos graves.

En Estados Unidos, el Centro Nacional sobre Explotación Sexual (NCOSE) pidió al Departamento de Justicia y a la Comisión Federal de Comercio que investiguen el caso. Su directora jurídica, Dani Pinter, recordó que las leyes federales prohíben la creación y distribución de material de abuso sexual infantil, incluso cuando se trata de contenido generado por IA, si representa a menores identificables.

Entre esas normas se encuentra la Take It Down Act, promulgada recientemente y destinada a combatir la difusión de imágenes íntimas no consensuadas.

El Departamento de Justicia estadounidense confirmó que se toma “muy en serio” el material de abuso sexual infantil generado con inteligencia artificial y que avanzará contra quienes utilicen esta tecnología para dañar a menores. La FTC, en cambio, evitó hacer comentarios, mientras que xAI, la empresa detrás de Grok, no ofreció respuestas más allá de comunicados generales.

X emitió su primera declaración oficial a través de la cuenta X Safety, donde aseguró que elimina contenido ilegal, suspende cuentas de forma permanente y coopera con las autoridades.

Musk, en un mensaje separado, afirmó que cualquier usuario que utilice Grok para generar contenido ilegal enfrentará las mismas consecuencias que si lo publicara directamente. Sin embargo, expertos en moderación digital cuestionan estas afirmaciones.

Tom Quisel, director ejecutivo de Musubi AI, sostuvo que xAI no implementó ni siquiera capas básicas de seguridad en Grok Imagine. Según explicó, sería técnicamente sencillo bloquear imágenes con desnudez explícita o que involucren menores, así como rechazar solicitudes destinadas a sexualizar personas reales. La ausencia de estos filtros, advirtió, expone a la plataforma a riesgos legales y reputacionales.

Pese al escándalo, el impacto en el uso de la plataforma ha sido limitado. Datos de la firma Apptopia indican que las descargas de Grok aumentaron más de 50% en los últimos días, mientras que las de X crecieron alrededor de 25%.