Investigan a Grok, la IA de Elon Musk, por permitir la creación de contenido para adultos con mujeres y niños

La situación con Grok, la inteligencia artificial desarrollada por xAI, la empresa de Elon Musk, ha escalado a nivel internacional luego de que salieran a la luz informes sobre la generación de imágenes sugerentes de personas, incluidas menores de edad, en la plataforma X.

Este escenario ha desencadenado investigaciones formales y bloqueos en diversos países, así como una profunda preocupación sobre los controles internos de la herramienta y la capacidad de las compañías para frenar el uso indebido de sus sistemas.

La alarma se encendió cuando expertos en inteligencia artificial advirtieron que Grok carecía de filtros efectivos para evitar que los usuarios crearan imágenes manipuladas con contenido delicado. Esta vulnerabilidad llevó a la generación y circulación de miles de imágenes que afectaban tanto a mujeres como a niños, lo que motivó a reguladores y gobiernos a tomar cartas en el asunto.

El informe publicado a comienzos de enero por AI Forensics arrojó luz sobre la magnitud del fenómeno. Según el estudio, el 53 % de las imágenes generadas por Grok mostraban personas con poca ropa. De ese grupo, el 81 % correspondía a mujeres y el 2 % a individuos que aparentaban tener 18 años o menos. Además, el 6 % involucraba a figuras públicas.

Reino Unido está investigando la IA de Elon Musk

El organismo de control de comunicaciones del Reino Unido, Ofcom, anunció el inicio de una investigación formal sobre la plataforma X. El objetivo: determinar si la compañía había incumplido la Ley de Seguridad en Línea, que exige a las plataformas proteger a los ciudadanos del acceso a material ilícito.

Ofcom se puso en contacto con X de forma urgente el 5 de enero, solicitando explicaciones acerca de las medidas implementadas para evitar la difusión de este tipo de contenido. La empresa respondió dentro del plazo estipulado, lo que dio pie a una evaluación de pruebas.

La investigación busca esclarecer si X realizó una evaluación de riesgos adecuada antes de introducir cambios significativos en su servicio, y si tomó las precauciones necesarias para impedir que los usuarios en el Reino Unido accedieran a imágenes no consentidas de personas o a material que pudiera constituir abuso de menores.

Las consecuencias de un eventual incumplimiento son severas: el organismo advierte sobre la posibilidad de imponer multas de hasta 18 millones de libras esterlinas o el 10 % de los ingresos globales de la compañía. En casos graves, se podría incluso solicitar a un tribunal la interrupción de la actividad empresarial de X en el país.

Grok ya fue bloqueado por la generación de estas imágenes

Este caso no es aislado. El Ministerio de Comunicaciones y Asuntos Digitales de Indonesia también actuó con contundencia. El órgano regulador decidió bloquear temporalmente el acceso a Grok tras una investigación que confirmó la generación de imágenes comprometedoras mediante la herramienta de inteligencia artificial.

Según el comunicado oficial, la medida busca proteger a mujeres, niños y a toda la comunidad del riesgo de imágenes manipuladas creadas mediante tecnología automatizada. El ministerio exigió a X una pronta clarificación sobre el funcionamiento de la IA y su control de contenidos.

Al respecto, Meutya Hafid, ministra de Comunicaciones y Digitalización, recalcó que la creación de imágenes manipuladas no consentidas constituye una grave vulneración de los derechos humanos, la dignidad y la seguridad nacional en el ámbito digital.

Qué ha hecho xAI ante este caso

Las consecuencias de la exposición pública no se hicieron esperar. Ante la presión internacional y la amenaza de sanciones, xAI decidió restringir el acceso a la función de generación de imágenes de Grok, limitando su uso únicamente a suscriptores de pago.

Pero la aplicación independiente de Grok, que opera fuera de la red social X, sigue permitiendo la generación de imágenes sin necesidad de suscripción, lo que agrava la preocupación sobre la eficacia real de las nuevas restricciones.

En respuesta al bloqueo en Indonesia, Grok publicó un mensaje en X pidiendo disculpas por los inconvenientes y asegurando que trabajaban para solucionar el problema.