Gobiernos luchan contra X por las imágenes sexualizadas que comparte Grok

Durante las últimas semanas, gobiernos y organismos reguladores de distintas partes del mundo intensificaron su presión contra X y su empresa asociada xAI, luego de que el chatbot Grok quedara vinculado a la difusión masiva de imágenes sexualizadas generadas por inteligencia artificial sin consentimiento.

El fenómeno, que afectó principalmente a mujeres —incluidas figuras públicas, periodistas, víctimas de delitos e incluso líderes políticas—, expuso las limitaciones actuales de la regulación tecnológica frente al avance acelerado de la IA generativa.

La polémica escaló tras la publicación de un informe de investigación de Copyleaks, fechado el 31 de diciembre, que alertó sobre la magnitud del problema. En una primera estimación, el estudio calculó que se publicaba una imagen manipulada por minuto en X.

Sin embargo, análisis posteriores revelaron una dimensión mucho mayor: una muestra recolectada entre el 5 y el 6 de enero detectó cerca de 6.700 imágenes por hora durante un lapso de 24 horas. La cifra encendió alarmas entre autoridades, especialistas en derechos digitales y organizaciones de protección de las víctimas.

El caso puso en el centro del debate el rol de Grok, el chatbot desarrollado por xAI e integrado a X, y la decisión de lanzar el modelo sin salvaguardas estrictas para la generación de imágenes.

Aunque las críticas se multiplicaron a nivel internacional, los mecanismos para frenar este tipo de contenidos resultaron, en muchos casos, limitados o poco claros. Para los reguladores, el episodio se convirtió en una prueba concreta de los desafíos que plantea la inteligencia artificial cuando se combina con plataformas de alcance global.

La respuesta más firme hasta el momento provino de la Comisión Europea. El organismo ordenó a xAI conservar toda la documentación relacionada con Grok, una medida que suele anticipar investigaciones formales bajo el marco del Reglamento de Servicios Digitales (DSA).

Si bien la Comisión no confirmó la apertura de un expediente, la decisión fue interpretada como una señal de advertencia. La preocupación aumentó tras informes periodísticos que sugieren que Elon Musk habría intervenido para evitar la implementación de filtros de seguridad más estrictos en la generación de imágenes.

Desde X no se detalló si se introdujeron cambios técnicos profundos en el funcionamiento de Grok. La compañía sí eliminó la pestaña de medios públicos de la cuenta oficial del chatbot y publicó comunicados en los que condenó el uso de herramientas de IA para producir material ilegal, incluido contenido sexual infantil.

“Cualquiera que use o incite a Grok a crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”, señaló la cuenta de X Safety a comienzos de enero, en línea con mensajes previos del propio Musk.

En el Reino Unido, la reacción también fue inmediata. La Oficina de Comunicaciones (Ofcom) confirmó que mantiene contacto con xAI y que realizará una evaluación rápida para determinar posibles incumplimientos normativos.

El primer ministro británico, Keir Starmer, calificó públicamente la situación como “vergonzosa” y “repugnante”, y aseguró que el regulador cuenta con respaldo total del gobierno para actuar si fuera necesario.

Australia siguió una línea más cautelosa. La comisionada de seguridad electrónica, Julie Inman-Grant, informó que su oficina recibió el doble de denuncias vinculadas a Grok desde fines de 2025. No obstante, evitó anunciar sanciones concretas y se limitó a señalar que se utilizarán las herramientas regulatorias disponibles para investigar y evaluar los próximos pasos.

El escenario más complejo para X podría darse en India, uno de sus mercados más grandes. Allí, Grok fue objeto de una queja formal presentada por un miembro del Parlamento. El Ministerio de Electrónica y Tecnología de la Información (MeitY) exigió a la plataforma un informe detallado de las medidas adoptadas, con plazos ajustados.

Aunque X presentó una respuesta el 7 de enero, las autoridades aún no confirmaron si la consideran suficiente. En caso contrario, la empresa podría perder su estatus de “puerto seguro”, una protección legal clave para operar en el país.