Ante las críticas, Elon Musk restringe la generación de imágenes de Grok solo a suscriptores

La difusión de imágenes sexualizadas y violentas generadas por inteligencia artificial provocó que Elon Musk anunciara la restricción del acceso a la herramienta Grok, ahora disponible solo para quienes pagan una suscripción en X. La decisión responde a un aumento de denuncias por la vulneración del derecho a la propia imagen, la vida privada y el honor, así como a amenazas de sanciones y prohibiciones planteadas por varios gobiernos europeos.

Durante las últimas semanas, la creación de videos pornográficos y simulaciones de agresiones mediante Grok se expandió en la red social, superando la capacidad de respuesta de los organismos reguladores.

Por su parte, la ministra de Juventud e Infancia de España, Sira Rego, solicitó a la Fiscalía General del Estado investigar a X y su inteligencia artificial por presuntos delitos relacionados con la difusión de material de violencia sexual contra menores. Otros gobiernos de la región también consideraron la prohibición de la red social y la imposición de sanciones.

Ante la presión, Musk comunicó que la generación y edición de imágenes queda limitada a los suscriptores de pago.

En vez de incorporar filtros o salvaguardas técnicas para impedir la creación de estos contenidos, la plataforma optó por restringir su uso, transfiriendo la responsabilidad legal a quienes abonen el servicio. “Cualquiera que use Grok para crear contenido ilegal o use X para publicar contenido ilegal afrontará consecuencias. La responsabilidad legal sigue siendo de la persona que crea o sube el contenido”, expresó el polémico empresario.

Las imágenes pornográficas y violentas no consentidas comenzaron a circular de manera generalizada a finales de diciembre. Musk minimizó el problema en un principio, incluso publicó una foto propia en bikini para restar gravedad a la funcionalidad de la inteligencia artificial. Sin embargo, la reacción de autoridades y usuarios llevó a que la plataforma limite el acceso a quienes puedan ser rápidamente identificados como responsables de los contenidos generados.

El debate sobre la responsabilidad de las plataformas digitales frente a la difusión de material ilícito continúa abierto. Ricard Martínez, director de la cátedra de Privacidad y Transformación Digital de la Universidad de Valencia, dijo a El País: “No se puede sexualizar sin consentimiento ninguna imagen, aunque se especifique que es una recreación. Todos y cada uno de nosotros tenemos reconocido el derecho a la propia imagen, a la vida privada y al honor”.

Martínez sostuvo que la responsabilidad legal de prevenir y eliminar estos contenidos recae tanto en los creadores como en las plataformas que facilitan su generación y difusión.

La problemática se agrava por el impacto de la sextorsión, modalidad delictiva que combina el robo de datos con la difusión masiva de imágenes no consentidas. La compañía de ciberseguridad Kaspersky detectó un repunte del malware Stealerium, utilizado en campañas automatizadas de extorsión. Más del 90% de las agresiones sexuales digitales con imágenes no autorizadas afectan a mujeres.

Mary Anne Franks, profesora de la Universidad George Washington y presidenta de Derechos Civiles Cibernéticos, advirtió: “Las mujeres son las canarias en la mina en relación con el abuso de la inteligencia artificial. No va a ser solo la niña de 14 años o Taylor Swift, van a ser las políticas, las líderes mundiales, las elecciones. Somos demasiado pocos y llegamos demasiado tarde, pero aún podemos tratar de mitigar el desastre que está surgiendo”.

La medida de Musk busca frenar los abusos limitando el acceso a la herramienta solo a quienes puedan ser identificados como suscriptores de pago, mientras sigue el debate sobre las obligaciones legales y éticas de las plataformas tecnológicas en la protección de los derechos fundamentales en entornos digitales.