El Reino Unido va tras X por las imágenes sexualizadas de Grok

El regulador británico Ofcom investiga al chatbot de Musk tras la difusión de imágenes ilegales.

Las autoridades británicas anunciaron el lunes una investigación sobre X, la plataforma de redes sociales propiedad de Elon Musk, por la difusión de imágenes sexuales de mujeres y niños generadas artificialmente.

Ofcom, el regulador británico que supervisa las plataformas en línea, dijo que había iniciado una investigación formal para analizar si X había violado una ley que pretende detener la difusión en Reino Unido de contenido ilegal "prioritario", incluidas imágenes íntimas no consentidas y material de abusos sexuales a menores.

Las imágenes sexualmente explícitas generadas por Grok, el chatbot de inteligencia artificial de Musk, han inundado X en las semanas recientes. En respuesta a sencillas peticiones de los usuarios de X, el chatbot automáticamente creó y publicó fotos manipuladas de personas reales, incluidos niños, con poca ropa y en situaciones sexualmente provocativas.

Muchas mujeres que han sido objeto de las imágenes sexualizadas generadas por Grok han reaccionado con horror y han pedido a Musk que elimine las funciones que permiten esa actividad.

Ofcom dijo en un comunicado que "las plataformas deben proteger a los ciudadanos del Reino Unido de contenidos que son ilegales en el Reino Unido, y no dudaremos en investigar cuando sospechemos que las empresas incumplen sus obligaciones, especialmente cuando exista riesgo de daño para los niños."

El regulador no fijó un plazo específico para la investigación, pero dijo que era un asunto de "máxima prioridad". X podría enfrentarse a multas de hasta 18 millones de libras (unos 24 millones de dólares), o el 10 por ciento de sus ingresos mundiales, la cifra que resulte mayor.

Si se descubre que X ha infringido la ley y se niega a cumplir las peticiones de Ofcom para que actúe, el regulador está facultado, si es necesario, para solicitar una orden judicial que impida a los proveedores de pagos y a los anunciantes trabajar con X. También podría, en los casos en que un tribunal considere que existe un "perjuicio significativo" para las personas, exigir a los proveedores de servicios de internet que bloqueen totalmente el acceso a la plataforma dentro del país.

Ofcom dijo que había estado en comunicación con xAI, la empresa matriz que controla X y Grok, para conocer las medidas que está tomando para proteger a los usuarios en Reino Unido.

La semana pasada, X reaccionó a la creciente indignación por las imágenes anunciando que solo los clientes de pago podrían utilizar la herramienta de creación de imágenes de Grok. Un vocero del primer ministro británico, Keir Starmer, dijo que el cambio era "insultante" para las víctimas de la misoginia y la violencia sexual. "Simplemente convierte una función de IA que permite la creación de imágenes ilícitas en un servicio premium", añadió.

Musk ha afirmado que la polémica sobre las imágenes es un pretexto de los gobiernos para atacar la "libertad de expresión". Recientemente publicó una imagen generada por IA de Starmer en bikini.

"¿Por qué es tan fascista el gobierno del Reino Unido?", escribió Musk en X el 10 de enero. También se ha jactado de que la polémica ha provocado más descargas de la aplicación.

No se pudo contactar a Musk ni a X para que hicieran comentarios.

El negocio de la plataforma social de Musk se ha deteriorado en Reino Unido. La semana pasada, la empresa reveló que los ingresos anuales en 2024 cayeron un 58 por ciento a 28,9 millones de libras, mientras que la utilidad bruta pasó de 13,5 millones a 1,1 millones de libras.

La empresa atribuyó la caída a un descenso de las ventas de publicidad debido a que las empresas tienen "preocupaciones sobre la seguridad de la marca, la reputación y/o la moderación de los contenidos".

Durante el fin de semana, Indonesia y Malasia se convirtieron en los dos primeros países en prohibir Grok, al bloquear el acceso a la aplicación en sus países. Las autoridades de la Unión Europea, Francia, Brasil y otros países también han dicho que están revisando X sobre la difusión de imágenes sexuales de personas sin su consentimiento.

El creciente revuelo corre el riesgo de crear una tensión geopolítica más amplia. El presidente Trump y otros funcionarios de su gobierno handefendido a Musk frente a otros intentos europeos de regular X, calificándolo de un ataque a la libertad de expresión.

Adam Satariano es corresponsal de tecnología para el Times, y radica en Londres.