Legisladores de Estados Unidos buscan combatir la pornografía deepfake

Los legisladores estadounidenses buscan declarar ilegal la distribución de imágenes alteradas digitalmente conocidas como pornografía deepfake, una tecnología que ha aumentado considerablemente en los últimos años y ha provocado una oleada de denuncias y protestas.

El año pasado se contabilizaron más de 21.000 videos de pornografía deepfake en línea, un aumento de más del 460% en comparación con el año anterior, según fuentes del Congreso. En respuesta, la senadora demócrata de New Hampshire, Maggie Hassan, y el senador republicano de Texas, John Cornyn, presentaron una legislación bipartidista que propone sanciones penales y civiles para quienes compartan estas imágenes no consensuadas. Las sanciones pueden incluir multas y hasta dos años de prisión, además de castigos civiles que podrían llegar a los 150.000 dólares.

“Es indignante”, afirmó Hassan. “Debemos asegurarnos de que nuestras leyes se mantengan al día con esta nueva tecnología y proteger a las personas”.

Uno de los casos más destacados es el de Breeze Liu, cuyo rostro fue superpuesto en imágenes pornográficas sin su consentimiento. “Realmente siento que todo mi mundo se vino abajo en ese momento”, dijo Liu. “Tienes que mirar cuántas vistas hay y cuántas personas te han violado. Simplemente, no quería vivir más, porque la vergüenza era demasiado para soportarla”. A pesar de que Liu sabía quién era el perpetrador y denunció el caso a la policía, las autoridades no tomaron medidas. La situación empeoró cuando el perpetrador creó más de 800 enlaces con falsificaciones de Liu en Internet.

En respuesta a la falta de acción de las autoridades locales, el caso de Liu ha sido asumido por el FBI, y ella también forma parte de una demanda colectiva contra Pornhub. La plataforma Pornhub ha declarado a CBS News que elimina rápidamente cualquier material no consensuado y que tiene protocolos para evitar que se cargue dicho material.

“No vamos a quitar el pie del acelerador”, señaló Cornyn. “Vamos a seguir presionando sobre este tema, porque mientras el proyecto de ley no se apruebe, habrá personas que se aprovecharán de la ausencia de este tipo de castigo para explotar a las personas que utilizan estos deepfakes”.

Además de afectar a ciudadanos comunes, estas tecnologías han sido utilizadas para crear imágenes íntimas falsas de celebridades como Taylor Swift. El sitio de redes sociales X deshabilitó en enero las búsquedas relacionadas con Swift, en un esfuerzo por detener la circulación de imágenes pornográficas ultrafalsas de la cantante.

El problema también ha llegado a las escuelas. Algunos estudiantes han creado pornografía deepfake de compañeros y la han difundido entre amigos y familiares, a veces con fines de extorsión. Un caso en Nueva Jersey involucró a un adolescente que demandó a otro estudiante por producir y compartir imágenes pornográficas generadas por IA de él y de otras personas.

La senadora Hassan destacó que el Congreso está trabajando para criminalizar la creación de imágenes íntimas no consentidas. “En este momento se está trabajando en el Congreso sobre cómo establecer este tipo de barrera, pero lo que sabemos es que la mayoría de la gente no sabe sobre el deepfake que existe hasta que alguien intenta distribuirlo. Así que queríamos atacar realmente este problema en el punto en que se vuelve obvio y es probable que alguien tome medidas”, puntualizó Hassan.

En un intento de ofrecer soluciones, Liu ha fundado Alecto AI, una startup que ayuda a identificar y eliminar rápidamente deepfakes encontrados en línea. “Llegué a la conclusión de que a menos que cambie el sistema, a menos que cambie el mundo, la justicia ni siquiera sería una opción para mí”, afirmó Liu.

Mientras el Congreso sigue debatiendo esta legislación crucial, queda claro que la lucha contra la pornografía deepfake es un problema urgente y creciente, afectando tanto a figuras públicas como a ciudadanos ordinarios. Hassan y Cornyn esperan que su iniciativa reciba apoyo bipartidista y sea aprobada en los próximos meses.