Un estudiante utilizó IA para crear imágenes pornográficas de sus compañeras de escuela y ahora va a juicio

La causa contra un estudiante de la Escuela Manuel Belgrano de la ciudad de Córdoba que utilizó Inteligencia Artificial para crear imágenes pornográficas de al menos 16 compañeras fue elevada a juicio.

De acuerdo a lo que se sabe del caso, el joven, cuya identidad permanece resguardada debido a su minoría de edad, manipuló imágenes de 16 chicas fusionando sus rostros con cuerpos desnudos de mujeres mayores, y posteriormente subió el material a una página de contenido para adultos. Además, estas imágenes iban acompañadas de descripciones que cosificaban a las afectadas.

Este hecho, que destapó una serie de consecuencias legales y éticas, ocurrió a mediados del año pasado, pero no fue hasta julio de 2024 que las denuncias salieron a la luz.

La acción ilegal provocó una gran conmoción en la comunidad educativa y reavivó el debate sobre el uso ético de tecnologías avanzadas. José Danonta, el abogado representante de tres de las víctimas expresó a ElDoce.tv que “todas estas chicas menores de edad tiene un daño psicológico”.

El letrado manifestó que el uso indebido de los rostros en los videos es una contravención en el país y señaló que el caso será juzgado por lesiones graves con agravante de violencia de género, una ofensa que podría acarrear penas de entre 2 y 20 años de prisión.

La denuncia inicial fue realizada por el padre de una de las víctimas ante elfiscal Juan Ávila Echenique, quien se encarga de investigar delitos contra la integridad sexual. Sin embargo, el fiscal encontró limitaciones legales debido a que las víctimas tienen 18 años, lo que impedía proceder bajo el Código Penal actual.

Más allá del marco judicial, la situación ha captado la atención pública debido a su implicación para la privacidad y la seguridad en el entorno escolar. Andrea Marinelli, directora de la Escuela Manuel Belgrano, subrayó la importancia de abordar y prevenir estos incidentes desde un enfoque educativo. Explicó que todas las medidas administrativas se han implementado y que el asunto ahora está en manos del área jurídica de la Universidad Nacional de Córdoba (UNC), a la cual la escuela pertenece.

“Hicimos todos los trámites administrativos que corresponden como institución. Ahora está en el área de Jurídicas de la universidad. Como escuela nos ocupa que podamos identificar estos casos, educar a la comunidad, hacer prevención. Esto debe servir para otras escuelas también para que puedan trabajar en la prevención y reparación de estos casos”, aseguró Marinelli, en diálogo con La Voz.

La directora detalló que se han implicado especialistas en violencia de género, resaltando que la educación y la prevención son esenciales para evitar futuras situaciones similares. En tanto, evitó ofrecer información que pudiera identificar a las víctimas.

Por otro lado, esta incidencia renovó la discusión sobre la regulación de la inteligencia artificial en el ámbito legislativo. El legislador por Córdoba, Juan Brügge, presentó un proyecto de ley en el Congreso Nacional para establecer un marco regulatorio que garantice un uso responsable de la IA apenas el caso salió a la luz. Esta iniciativa promueve la defensa de los derechos ciudadanos y apuesta por una aplicación ética y transparente de tecnologías emergentes.

Inspirado en legislaciones internacionales y recomendaciones de expertos, el proyecto de ley de Brügge propone que el Instituto Nacional de Tecnología Industrial (INTI) supervise y sancione el uso indebido de inteligencia artificial. Además, introduce un sistema de multas y acciones judiciales para quienes resulten perjudicados, incorporando la figura del daño punitivo para proteger a las víctimas.

Este caso en Córdoba también ha llamado la atención de organismos internacionales. La Unesco, por ejemplo, ha enfatizado que, aunque la IA puede contribuir al progreso humano, debe estar sujeta a regulaciones robustas para mitigar riesgos potenciales. Proponen limitar el acceso a tecnología avanzada a menores de 13 años, y subrayan la urgencia de incrementar la seguridad digital en menores de 18.