Investigan a un chico de 14 años por crear y difundir ‘deepfakes’ sexuales de compañeras de clase

La Guardia Civil ha identificado a un menor de 14 años como presunto autor de la creación y difusión de imágenes falsas de contenido sexual generadas mediante inteligencia artificial. El caso, que afecta a nueve alumnas menores de edad en Logroño, ha desencadenado una investigación por parte del Equipo de Investigación Tecnológica (EDITE) y del Equipo@ del instituto armado, ha informado este martes la Guardia Civil en un comunicado.

De acuerdo con la información difundida por la institución, el menor habría accedido a los perfiles públicos en redes sociales de sus compañeras de clase y habría recopilado fotografías sin autorización. Después utilizó aplicaciones de inteligencia artificial para manipular esas imágenes y crear material pornográfico falso (deepfakes). “El material fue alojado en una página de pornografía para adultos, donde se organizó en carpetas individuales con datos personales de cada víctima”, ha comunicado la Guardia Civil.

La difusión de las imágenes aumentó después de que el menor abriera un perfil en esa página para adultos con la descripción “Subo chicas de mi insti hechas con IA”. Esto permitió la identificación de las víctimas, si bien también agravó el daño emocional causado a las menores. Según la investigación, antes de que el contenido fuese eliminado, las imágenes falsas ya habían sumado cerca de 40.000 visualizaciones.

Constituye un delito grave

Los agentes determinaron que el menor conocía personalmente a las víctimas y que la obtención de las imágenes se produjo a través del acceso no consentido a sus perfiles en redes. Las diligencias han sido remitidas a la Fiscalía de Menores, conforme a la Ley Orgánica 5/2000, que regula la responsabilidad penal de los menores en España. Además, los progenitores o tutores legales del investigado deberán responder de manera solidaria por los daños morales ocasionados, conforme a la legislación vigente.

La Guardia Civil ha recordado que la manipulación y difusión de imágenes íntimas, incluso cuando son generadas por medios digitales, constituye un delito grave y puede acarrear consecuencias legales tanto para los autores materiales como para sus responsables legales.

Nueva ley del derecho al honor

El desarrollo de la inteligencia artificial y la proliferación de los deepfakes han planteado nuevos retos para la protección de la intimidad, hasta el punto de que el Gobierno ha considerado necesario actualizar la legislación. Por ello, el Consejo de Ministros aprobó la semana pasada una nueva ley del derecho al honor que refuerza la protección frente a la creación y difusión de imágenes o voces falsas generadas mediante inteligencia artificial. Con esta norma, se considerará ilegítimo utilizar la voz o la imagen de una persona sin su consentimiento con fines publicitarios o comerciales cuando se empleen herramientas de inteligencia artificial.