Alerta en Estados Unidos por el aumento de víctimas de pornografía falsa creada con inteligencia artificial

Más de 143,000 nuevos vídeos falsificados fueron compartidos este año, mientras que las familias afectadas urgen a los legisladores a fortalecer las leyes contra la difusión no consentida de estos materiales

Compartir
Compartir articulo
La inteligencia artificial está detrás de más de 143,000 vídeos deepfake compartidos en línea en 2023, superando años anteriores. (iStock)
La inteligencia artificial está detrás de más de 143,000 vídeos deepfake compartidos en línea en 2023, superando años anteriores. (iStock)

En Estados Unidos se han empezado a denunciar con mayor regularidad casos de imágenes pronográficas falsas generadas por inteligencia artificial (IA) que ponen en riesgo la reputación de sus víctimas, en especial la de mujeres y adolescentes.

Según un estudio de la firma investigadora independiente Genevieve Oh, citado por la agencia de noticias The Associated Press (AP), más de 143,000 nuevos vídeos manipulados por la IA o deepfake, se compartieron en línea este año, un número que supera los totales de años anteriores combinados. Los investigadores aseguran que la tecnología ha facilitado la producción y la diseminación de este tipo de contenido, incluyendo material de abuso sexual infantil generado por IA.

Las deepfakes son imágenes, videos o audios manipulados con técnicas de inteligencia artificial y aprendizaje profundo, que hacen parecer que una persona está diciendo o haciendo algo que nunca dijo o hizo. Se generan superponiendo rostros o modificando la expresión facial y vocal en grabaciones existentes, con un nivel de realismo cada vez mayor, dificultando la distinción entre lo falso y lo auténtico.

Estudiantes de la secundaria Westfield, en Nueva Jersey resultaron afectadas por la creación y distribución de imágenes pornográficas falsas por parte de sus compañeros. (Freepik)
Estudiantes de la secundaria Westfield, en Nueva Jersey resultaron afectadas por la creación y distribución de imágenes pornográficas falsas por parte de sus compañeros. (Freepik)

El caso Westfield

A principios del pasado mes de noviembre, padres de familia y estudiantes de la escuela secundaria de Westfield en Nueva Jersey, reportaron que algunos alumnos habían utilizado inteligencia artificial para generar imágenes pornográficas deepfake de sus compañeros. El problema fue comunicado a los padres a través de un correo electrónico del director de la escuela, y escaló tanto que se dispuso una investigación por parte de las autoridades escolares y la Policía de Westfield.

Dorota Mani, propietaria de una guardería en Jersey City y madre de una de las víctimas, una adolescente de 14 años, contó en entrevista con CBS News, que su hija le envió un mensaje de texto que decía: “Mamá, se están distribuyendo fotos mías desnuda, Eso es todo. Nos dirigimos a la oficina del director”.

“Ella comenzó a llorar, y luego caminaba por los pasillos y vio llorar a otras niñas de Westfield High School, algunas de ellas víctimas y otras simplemente amigas de las víctimas que simplemente sentían por ellas”, dijo Mani.

Según conoció el mismo medio, la escuela tomó medidas de respuesta inmediatas, ofreciendo asesoramiento psicológico a los estudiantes afectados y urgiendo a los padres a dialogar con sus hijos sobre el uso ético de la tecnología. Aunque el suceso tuvo lugar durante el verano de este año, fue notificado a las autoridades escolares el pasado 20 de octubre.

“Estamos luchando por nuestros hijos”, dijo Dorota Mani, madre de una de las adolescentes afectadas por la difusión de imágenes pornográficas falsas en Nueva Jersey. (AP Foto/Peter K. Afriyie)
“Estamos luchando por nuestros hijos”, dijo Dorota Mani, madre de una de las adolescentes afectadas por la difusión de imágenes pornográficas falsas en Nueva Jersey. (AP Foto/Peter K. Afriyie)

Entre tanto, en una escuela secundaria en los suburbios de Seattle, Washington los funcionarios están investigando un caso similar que involucra a un adolescente que habría empleado inteligencia artificial para crear y distribuir imágenes pornográficas falsas de otras estudiantes, también chicas adolescentes de una escuela en Issaquah.

Tanto la policía de Westfield como la Oficina del Fiscal del Condado de Union, informados del caso, no han respondido a las solicitudes de comentarios hechas por la AP. En el estado de Washington, el incidente está bajo investigación policial, y el Distrito Escolar de Issaquah ha recalcado que cualquier tipo de acoso entre estudiantes es “totalmente inaceptable”.

Piden medidas

Las familias afectadas están haciendo un llamado urgente a los legisladores estadounidenses para reforzar el marco legal y proteger a las víctimas, instando a establecer medidas federales unificadas. Estados como Texas, Minnesota y Nueva York ya han promulgado leyes contra la distribución no consensual de contenido pornográfico deepfake, uniéndose a Virginia, Georgia y Hawaii, que ya tenían leyes vigentes.

“Estamos luchando por nuestros hijos”, dijo Dorota Mani a The Associated Press. “No son republicanos ni demócratas. No les importa. Sólo quieren ser amados y quieren estar a salvo”.

Legisladores presentan medidas para incluir advertencias en contenidos generados por IA y sancionar la difusión de imágenes pornográficas manipuladas. (Shutterstock)
Legisladores presentan medidas para incluir advertencias en contenidos generados por IA y sancionar la difusión de imágenes pornográficas manipuladas. (Shutterstock)

En Nueva Jersey, la senadora Kristin Corrado ha introducido un proyecto de ley que busca prohibir la pornografía deepfake y sancionar a quienes la difundan, inspirada en casos de evasión de las leyes contra la pornografía de venganza, en la que se utilizan fotos de exparejas para crear contenido falso y afectar su reputación.

Aunque la legislación estatal actual ofrece ciertos resguardos para menores, estos no se aplican a adultos, según Mary Anne Franks, profesora de derecho en la Universidad George Washington. La existencia de una normativa federal podría ofrecer protecciones consistentes en todo el país y sancionar a organizaciones que se benefician de la producción de deepfakes.

Recientemente, el presidente Joe Biden firmó una orden ejecutiva que prohíbe la creación de material de abuso sexual infantil mediante inteligencia artificial. Además, esta orden incluye directrices para marcar y etiquetar contenidos generados por AI, diferenciándolos de los materiales auténticos.

Una orden ejecutiva del presidente Joe Biden prohíbe la creación y distribución de cualquier tipo de abuso sexual infantil mediante IA. (Archivo)
Una orden ejecutiva del presidente Joe Biden prohíbe la creación y distribución de cualquier tipo de abuso sexual infantil mediante IA. (Archivo)

En sintonía con los esfuerzos por regular el contenido generado por IA, el representante Tom Kean Jr. presentó el pasado lunes 27 de noviembre de 2023, un proyecto de ley que exigiría a los desarrolladores incluir advertencias claras en los contenidos generados por IA, mientras que otro proyecto de ley presentado por el representante Joe Morelle busca que sea declarada como ilegal la distribución online de imágenes pornográficas manipuladas mediante deepfakes.

Organizaciones como la Unión Americana de Libertades Civiles, la Fundación Frontera Electrónica y The Media Coalition abogan por una consideración cuidadosa de las propuestas legislativas, advirtiendo sobre posibles conflictos con la Primera Enmienda.

A nivel local, Dorota Mani y su hija, crearon un sitio web y una organización benéfica para ayudar a otros afectados por este tipo de abusos, al tiempo que están colaborando con legisladores estatales y planean viajar a Washington para abogar por mayores protecciones. “No todos los niños, niños o niñas, tendrán el sistema de apoyo para afrontar este problema”, afirmó Mani a la AP. “Y es posible que no vean la luz al final del túnel”.

Especialistas como Joe Johnson, abogado de la Unión Americana de Libertades Civiles de Nueva Jersey, enfatizan la necesidad de crear legislación que verdaderamente aborde los problemas asociados con los deepfakes y el acoso cibernético. “Ya sea federal o estatal, debe haber una conversación sustancial y aportes de las partes interesadas para garantizar que cualquier proyecto de ley no sea demasiado amplio y aborde el problema planteado” explicó Johnson.