Indonesia bloquea la IA de X, Grok, por sus "falsificaciones sexuales"

El Ministerio de Comunicación y Asuntos Digitales de Indonesia precisó que la decisión de suspender el acceso a la inteligencia artificial Grok, vinculada a la red social X, responde a la necesidad de evitar la circulación de falsificaciones sexuales no consentidas que infringen la integridad y seguridad de la población. De acuerdo con la agencia de noticias oficial Antara, la titular de la cartera, Meutya Hafid, declaró que la generación de pornografía falsificada mediante inteligencia artificial es considerada una forma de “violencia digital”, por lo que requiere una respuesta inmediata por parte de las autoridades.

Según informó Antara, la restricción tiene carácter provisional, mientras la plataforma X presenta clarificaciones respecto al impacto nocivo que puede ocasionar el uso de Grok. El Gobierno indonesio recalcó que las imágenes y videos alterados que simulan escenas sexuales sin consentimiento constituyen una transgresión grave de los derechos fundamentales de las personas y afectan particularmente a mujeres, menores y al conjunto de la sociedad en el entorno digital.

El Ministerio de Comunicación y Asuntos Digitales publicó un comunicado a través de diversas redes sociales, incluida la propia plataforma X, en el que puntualizó que la medida pretende salvaguardar la dignidad y seguridad de los usuarios frente a los riesgos asociados a la distribución de este tipo de contenidos. A su vez, instó a X a implementar filtros estrictos que permitan prevenir la aparición y propagación de material pornográfico manipulado por tecnología de inteligencia artificial.

La ministra Hafid manifestó, según recogió Antara, que la continuidad del funcionamiento de Grok en el país queda condicionada a que X adopte lineamientos éticos y mecanismos de control reforzados que garanticen la eliminación y el bloqueo de información electrónica o documentos electrónicos prohibidos según la legislación nacional. De igual modo, convocó a las empresas proveedoras de servicios de internet a aplicar procedimientos que aseguren que sus sistemas no se utilicen para alojar, facilitar ni distribuir archivos con contenidos ilícitos o dañinos para la sociedad.

El Gobierno subrayó que la protección frente al contenido pornográfico falsificado generado por inteligencia artificial resulta prioritaria en el contexto actual, donde la rápida expansión tecnológica ha multiplicado las posibilidades de manipulación de imágenes y videos. Las autoridades detallaron que la vigilancia y la regulación constante sobre estas herramientas tecnológicas son fundamentales para evitar la aparición y el consumo masivo de materiales que puedan vulnerar la privacidad, la reputación y la seguridad de los ciudadanos en el entorno digital.

Por último, la ministra Hafid explicó, según consignó la agencia Antara, que la suspensión de Grok continuará vigente hasta que X proporcione explicaciones satisfactorias sobre las medidas de mitigación y los efectos negativos detectados. La disposición estatal busca marcar un precedente en la lucha contra la violencia digital y servir de advertencia sobre la necesidad de aplicar estándares más rigurosos en el desarrollo y control de sistemas impulsados por inteligencia artificial.