Escándalo en una escuela de Córdoba: un alumno utilizó IA para crear imágenes pornográficas de sus compañeras

Un estudiante de la Escuela Manuel Belgrano de Córdoba fue denunciado por generar imágenes pornográficas de sus compañeras utilizando inteligencia artificial. El alumno usó herramientas de IA para fusionar los rostros de las jóvenes con cuerpos desnudos de mujeres adultas y luego subió el material resultante a una conocida página pornográfica. Las imágenes iban acompañadas de descripciones que cosificaban a las afectadas.

La denuncia inicial fue realizada por el padre de una de las víctimas ante el fiscal Juan Ávila Echenique, quien se encarga de investigar delitos contra la integridad sexual. Sin embargo, el fiscal encontró limitaciones legales debido a que las víctimas tienen 18 años, lo que impide proceder bajo el Código Penal actual. Por esta razón, el caso fue derivado a una unidad judicial contravencional de género.

La justicia de Córdoba aún no contempla como delito penal situaciones de violencia digital de este tipo, cuando las afectadas son mayores de edad, ya que el artículo 128 del Código Penal solo penaliza el uso de imágenes en casos donde las víctimas son menores.

El hecho, ocurrido hace una semana, provocó que las autoridades del colegio universitario involucraran al equipo de Asesoría en Violencia de Género y Masculinidades. Andrea Marinelli, directora de la Escuela Manuel Belgrano, indicó que se abrió un expediente en la Secretaría de Asuntos Académicos de la Universidad Nacional de Córdoba (UNC), institución a la cual pertenece la escuela. La directora informó que todas las medidas administrativas se están llevando a cabo y el caso ahora se encuentra en el área de asuntos jurídicos de la universidad.

Marinelli señaló la importancia de reconocer y prevenir estos casos en el entorno escolar y destacó los recursos de la institución para abordarlos, como los equipos especializados en violencia de género y masculinidades. La directora evitó compartir detalles que pudieran identificar a las víctimas y enfatizó que la institución respetará los tiempos de la justicia.

“Hicimos todos los trámites administrativos que corresponden como institución. Ahora está en el área de Jurídicas de la universidad. Como escuela nos ocupa que podamos identificar estos casos, educar a la comunidad, hacer prevención. Esto debe servir para otras escuelas también para que puedan trabajar en la prevención y reparación de estos casos”, aseguró Marinelli, en diálogo con La Voz.

El caso suscitó indignación y renovó el debate sobre la necesidad de regular el uso de la inteligencia artificial para evitar estos abusos. De hecho, el legislador por Córdoba, Juan Brügge, presentó recientemente un proyecto en el Congreso Nacional que busca establecer un marco jurídico para el uso responsable de la inteligencia artificial, protegiendo los derechos ciudadanos y garantizando una aplicación ética y transparente. El proyecto de ley propone identificar riesgos potenciales de la IA en relación con los derechos humanos y se basa en legislaciones de otros países y criterios técnicos y jurídicos de expertos. De aprobarse, el Instituto Nacional de Tecnología Industrial (INTI) sería la autoridad de control y sanción.

La propuesta de Brügge contempla también un sistema de multas y la posibilidad de acciones judiciales directas para quienes sean afectados por el uso irresponsable de la IA, estableciendo daño punitivo a su favor. El proyecto incluye a proveedores, responsables del despliegue, importadores, distribuidores, fabricantes y usuarios de intelligence artificial en el país.

El uso de estas imágenes mediante “deepfakes” aumenta la preocupación sobre el impacto de la IA en la privacidad y seguridad de las personas. Vale recordar, que la Unesco también ha planteado que, aunque la inteligencia artificial puede ser beneficiosa para el desarrollo humano, debe estar sujeta a salvaguardias y regulaciones gubernamentales. Este organismo internacional propicia que menores de 13 años no utilicen estas tecnologías, aunque el caso de Córdoba involucra a un estudiante mayor de 13 pero menor de 18 años.

Asimismo, se espera una decisión judicial sobre posibles sanciones para el estudiante implicado en la creación y difusión de los contenidos inapropiados. La comunidad educativa y las autoridades judiciales se mantienen atentas a la evolución del caso, conscientes de la urgencia de establecer normativas que aborden estos nuevos desafíos legales y tecnológicos.