Juventud e Infancia pide a Fiscalía que investigue a la IA de 'X' por un presunto delito de pornografía infantil

El documento enviado por la titular del Ministerio de Juventud e Infancia alude a una reciente resolución judicial emitida por el Juzgado de Menores de Badajoz, identificada como la sentencia 86/2024, fechada el 20 de junio. Según informó Europa Press, esta sentencia condenó a varias personas por utilizar inteligencia artificial para modificar imágenes de niñas y adolescentes, considerando dichas actuaciones como una modalidad de violencia digital tipificada como delito de pornografía infantil y de ataque contra la integridad moral. El texto del ministerio destaca que esta resolución reconoce el uso de tecnologías como la inteligencia artificial para manipular imágenes y perjudicar la dignidad e integridad de menores, sentando así un precedente relevante en materia legal.

Esta referencia aparece en el contexto de una petición formal realizada por la ministra de Juventud e Infancia, Sira Rego, a la Fiscalía General del Estado. De acuerdo con Europa Press, Rego ha solicitado una investigación sobre la inteligencia artificial de la red social 'X' (anteriormente conocida como Twitter), a raíz de informaciones publicadas en diferentes medios que sugieren que el chatbot Grok, propiedad de Elon Musk, habría sido empleado para generar imágenes de menores de edad desnudos, a petición de diversos usuarios. El ministerio considera que estos hechos podrían encajar en la tipificación de delitos de difusión de material de violencia sexual contra la infancia y solicita una intervención “urgente” por parte de la Fiscalía para analizar la posible comisión de delitos vinculados a la pornografía infantil y la vulneración de los derechos fundamentales de menores en entornos digitales.

El comunicado de la ministra, citado por Europa Press, enfatiza el carácter “gravísimo” de los hechos denunciados y subraya la urgencia de adoptar las medidas necesarias para evitar que más menores se vean afectados por este tipo de conductas en plataformas digitales. El documento remitido por Rego argumenta la necesidad de frenar la exposición y mercantilización de la imagen de niñas, niños y adolescentes, así como protegerlos frente a nuevas formas de violencia asociadas a avances tecnológicos como la inteligencia artificial.

Según ha informado Europa Press, la ministra también recordó que la Ley Orgánica para la Protección de las Personas Menores de Edad en los Entornos Digitales, promovida desde su cartera, se encuentra actualmente en trámite en el Congreso de los Diputados. Esta ley prevé incluir un nuevo artículo orientado a perseguir el uso de la inteligencia artificial y cualquier otra herramienta tecnológica que pueda menoscabar la integridad moral de los menores. Desde el Ministerio explican que esta reforma normativa es parte de una estrategia más amplia que busca construir entornos digitales seguros, asumiendo que internet y las plataformas digitales no han sido diseñadas pensando en la protección de la infancia, lo que hace imprescindible la implementación de salvaguardas específicas.

La información difundida por Europa Press destaca que las medidas propuestas buscan reforzar el marco legal para proteger la integridad y la intimidad de los menores ante riesgos emergentes derivados del uso de tecnologías avanzadas. El texto del ministerio reafirma que debe prevalecer el interés superior del menor en cualquier contexto ligado a plataformas digitales o modelos de negocio basados en la explotación de imágenes o datos personales de la infancia y la adolescencia. Además, el ministerio insistió en que el objetivo de esta legislación es evitar todo tipo de violencia, exposición y explotación de la imagen de personas menores en entornos digitales, insistiendo en la necesidad de anticipar respuestas a los peligros que conllevan los nuevos avances tecnológicos para la protección de este colectivo vulnerable.

Por último, la reivindicación ministerial, en línea con lo recogido por Europa Press, considera que solo a través de una combinación de un marco legal robusto y una acción preventiva e inmediata de las autoridades, será posible garantizar que las niñas, niños y adolescentes puedan desarrollarse en un entorno seguro, libre de violencia digital y de cualquier forma de mercantilización o manipulación de su imagen en redes y plataformas tecnológicas.