Suspendieron a estudiantes en Miami por usar IA para crear imágenes deepfake de sus compañeros desnudos

Dos estudiantes de una escuela secundaria en Miami fueron suspendidos la semana pasada tras crear y distribuir imágenes de desnudos generadas por IA de decenas de compañeros de clase traumatizados. Los administradores de Pinecrest Cove Preparatory Academy suspendieron a dos varones por producir imágenes tan perturbadoras que varias víctimas no querían regresar a clases.

Los jóvenes, cuyas identidades no han sido reveladas, enfrentan cargos por la promoción de representaciones sexuales alteradas sin consentimiento, de acuerdo con la Policía de Miami-Dade. Este incidente ocurrió fuera del campus durante el receso de Acción de Gracias, reportó NBC Miami.

La investigación detalló que los perpetradores obtuvieron fotografías de cabeza de los estudiantes —tanto hombres como mujeres— de la cuenta de redes sociales de la escuela y usaron una aplicación de deepfake con inteligencia artificial para crear las imágenes desnudas, las cuales fueron compartidas entre los estudiantes en redes sociales.

Este suceso ha llevado a que algunas víctimas no deseen regresar al aula. Los estudiantes ofensores inicialmente fueron suspendidos por 10 días del colegio en Florida, pero algunos padres están exigiendo su expulsión definitiva, indicó New York Post.

La práctica de crear desnudos deepfakes de estudiantes sin sospechas está afectando a distritos escolares en toda la nación, dificultando su erradicación. Incidentes similares ocurrieron en Westfield High School en Nueva Jersey, donde más de 30 alumnas descubrieron que imágenes manufacturadas circulaban ampliamente.

Los legisladores de varios estados han introducido una legislación para penalizar la creación y distribución no consensuada de material lascivo deepfake, ofreciendo a las víctimas recursos legales tanto penales como civiles.

En otro contexto relacionado con la inteligencia artificial, se reportan desafíos académicos en instituciones educativas a causa del uso indebido de la IA en la elaboración de tareas.

Según el medio local WFTV9, la University of Central Florida está tomando medidas enérgicas contra las posibilidades de que los estudiantes recurran a la inteligencia artificial para fines indebidos, lo cual genera dificultades para que aquellos que no hacen trampa demuestren la autenticidad de su trabajo.

A su vez, Bethune-Cookman University prohíbe el acceso a asistentes de redacción con IA en todos los servidores de la universidad, impulsando a los profesores a requerir tareas escritas a mano para garantizar la integridad académica.

Deepfake: qué es y cuáles son sus riesgos

Un deepfake es una técnica de inteligencia artificial que permite editar videos o audios de personas, haciéndolas decir o hacer cosas que nunca dijeron o hicieron. Se basa en algoritmos conocidos como redes generativas antagónicas (GANs, por sus siglas en inglés), que utilizan dos redes neuronales: una para crear imágenes o secuencias falsas y otra para detectar las falsificaciones, en un ciclo continuo de mejora hasta lograr resultados hiperrealistas.

Esta tecnología está avanzando rápidamente y ha llegado a un punto en el que los videos y audios generados pueden ser casi indistinguibles de los reales, lo que ha suscitado preocupaciones éticas y legales a nivel global.

Los riesgos asociados a los deepfakes son significativos y varían desde la difusión de desinformación hasta la amenaza a la seguridad personal y nacional. En el ámbito político, la proliferación de deepfakes puede ser utilizada para crear falsas declaraciones o conductas de figuras públicas, influenciando la opinión pública o desestabilizando procesos electorales.

En lo personal, los individuos pueden convertirse en víctimas de acoso o chantaje con contenido falso de carácter íntimo o difamatorio. Adicionalmente, los deepfakes pueden comprometer la seguridad nacional al imitar voces o imágenes de líderes mundiales para simular eventos diplomáticos o militares.