Estudiantes de un colegio de Quito utilizaron fotografías de sus compañeras para crear contenido sexual con inteligencia artificial

Dos estudiantes de primer año de bachillerato utilizaron las fotografías de 24 estudiantes mujeres de su colegio para crear imágenes y videos de tipo sexual con inteligencia artificial. El caso sucedió en un colegio católico de Quito y se conoció a través de la fundación Grupo Rescate Escolar. Las fotos de las adolescentes fueron tomadas sin su consentimiento. El Ministerio de Educación aseguró que el hecho está en conocimiento de la Fiscalía.

Sybel Martínez, directora del grupo Rescate Escolar, ha relatado a varios medios locales los detalles de este suceso que ha puesto en alerta a los padres de familia. Según Martínez, se crearon con inteligencia artificial y se difundieron alrededor de 700 contenidos. Las víctimas conocieron de esto cuando las imágenes y videos se empezaron a compartir entre los estudiantes del colegio. Tanto las adolescentes afectadas como sus padres se enteraron de la manipulación multimedia la semana anterior, desde entonces han buscado alternativas para sancionar a los adolescentes que crearon el contenido.

“(La directora del colegio) no les dice si ha puesto o no una denuncia en el Distrito de Educación, lo que les dice es que está elaborando un informe para poner a consideración del Distrito, que los chicos ya han borrado los videos y que esto estaría solucionado”, contó Martínez a Ecuavisa. La directora de la fundación Grupo Rescate Escolar también se refirió a que el colegio no elaboró un informe para denunciar el delito ante la Fiscalía sino que confiscó los teléfonos móviles de los estudiantes, que además dejaron la institución por su propia voluntad, según recogió El Universo.

En declaraciones para ese medio local, las autoridades del Ministerio de Educación informaron que, al conocer del caso, se activaron “las rutas y protocolos” que contempla la cartera de Estado. Además, “la institución educativa remitió el caso a la Junta Distrital de Resolución de Conflictos y a la Fiscalía”. La entidad gubernamental ha reiterado que el colegio donde sucedieron los hechos es un centro de educación privado.

En un comunicado público, el Ministerio de Educación indicó que desde el 28 de septiembre se cuenta con un Protocolo de actuación frente a situaciones de violencia digital detectadas en el Sistema Nacional de Educación. Esta herramienta establece los lineamientos de actuación para todas las personas que conforman la comunidad educativa, “con el fin de garantizar la prevención, detección, intervención, derivación, seguimiento y reparación frente a situaciones de violencia digital”.

Martínez ha mostrado su preocupación sobre cómo la inteligencia artificial configura estas violencias de género y digitales en los colegios y escuelas. Grupo Rescate Escolar recibe denuncias sobre varios tipos de violencia que afectan a niños y adolescentes como el grooming, el ciberacoso, sexting, hostigamiento académico, maltrato infantil y otros: “Es preocupante por muchas razones, no solamente porque es una nueva forma de violencia de género, diría yo a través de la inteligencia artificial, que no está en nuestro imaginario como sociedad, que caería en un delito, si es que es el caso de pornografía infantil también”, dijo a El Universo.

Este es un caso de deepfakes. Según la Oficina de Seguridad del Internauta de España, los deepfakes son vídeos manipulados para que los usuarios crean que ven a una determinada persona realizando declaraciones o acciones que nunca ocurrieron. “Para la creación de dichos vídeos, se utilizan herramientas o programas dotados de tecnología de inteligencia artificial que permiten el intercambio de rostros en imágenes y la modificación de la voz”. Según Lisa Institute, estas manipulaciones “incluso pueden servir para desacreditar a alguien o como medio para hacer ciberacoso o intervenir en el acoso escolar”.

El uso de la inteligencia artificial con estos fines no solo se da en Ecuador. Un grupo de madres en Almendralejo, en España, denunció, a mediados de septiembre, la creación y difusión de imágenes falsas de sus hijas menores, aparentemente desnudas, en redes sociales. Estos contenidos habría sido diseñados con inteligencia artificial, en una práctica conocida como deepfakes, por lo que la Policía Nacional ya inició una investigación. Este caso surgió tras las declaraciones de Miriam Al Adib, una ginecóloga y divulgadora científica en la región de Extremadura, en las que denunció públicamente la situación en redes sociales.

Ante las afectaciones que puede causar el mal uso de la inteligencia artificial, la Unesco pidió a inicios de septiembre que los gobiernos regulen con rapidez el uso de la inteligencia artificial generativa (AI) en las escuelas para garantizar su uso ético y centrado en el ser humano en la educación y la investigación: “La IA Generativa puede ser una tremenda oportunidad para el desarrollo humano, pero también puede causar daños y prejuicios”, subrayó en un comunicado la directora general de Unesco, Audrey Azoulay.