Buscan que deepfakes creados con IA se penalicen hasta con 6 años de prisión al vulnerar intimidad de mujeres

La Inteligencia Artificial ha alcanzado niveles impensables, y ha llegado a un punto en que su uso puede vulnerar la integridad de las personas. Es de esta forma que el diputado del PRI en el Congreso de la Ciudad de México, Fausto Manuel Zamorano ha promovido una iniciativa para combatir las prácticas conocidas como deepfake.

Se trata de una imagen o video en la que se genera una imitación de una persona, ya sea de su voz o apariencia y que en ocasiones involucra temas de índole sexual, principalmente en mujeres.

La iniciativa del diputado Fausto Zamorano propone que la Ciudad de México sea la primera a nivel nacional en reglamentar el uso de Inteligencia Artificial para evitar este tipo de prácticas, con lo que se adiciona una fracción al Artículo 181 Quintis del Código Penal, en materia de Implementación de penas por alteración de imágenes con inteligencia artificial que vulnere la intimidad sexual de las mujeres.

El diputado priista sostiene que la inteligencia artificial es un campo que se ha vuelto “parte integral de la vida cotidiana” y que su impacto seguirá creciendo a medida que la tecnología continúe avanzando y su aplicación llegue a otros campos.

Sin embargo, también plantea que la alteración de imágenes a través de la inteligencia artificial puede dar lugar a la creación de contenido malicioso, conocido como deepfakes, tecnología que ha generado preocupaciones debido a su potencial para la difamación, desinformación y la violación de los derechos a la intimidad sexual.

“Los deepfakes que involucran a mujeres, en particular, a menudo se utilizan para crear contenido sexualmente explícito sin su consentimiento, lo que constituye una grave violación de su privacidad y dignidad”, indica la iniciativa.

¿Qué propone la iniciativa contra las deepfakes?

El artículo 181 Quintus plantea que comete un delito contra la intimidad sexual quien “videograbe, audiograbe, fotografíe, filme o elabore, imágenes, audios o videos reales o simulados de contenido sexual íntimo de una persona sin su consentimiento o mediante engaño”.

En una segunda fracción señala que comete dicho delito quien exponga, distribuya, difunda, exhiba, reproduzca, transmita, comercialice, oferte, intercambie y comparta imágenes, audios o videos de contenido sexual íntimo de una persona a sabiendas de que no existe consentimiento.

Mientras que el tercero, que se adiciona con esta reforma del diputado priista, señala que comete este delito quien:

“Haga uso de la Inteligencia Artificial para crear, exponer, distribuir, difundir, exhibir, reproducir, transmitir, comercializar, ofertar, intercambiar y/o compartir imágenes, audios o videos de contenido sexual íntimo de una persona, sin su consentimiento, y que para realizar dichas acciones utilice materiales impresos, correo electrónico, mensajes telefónicos, redes sociales o cualquier otro medio tecnológico”.

De acuerdo con el Código Penal para el Distrito Federal, el delito contra la intimidad sexual será castigado con una pena de cuatro a seis años de prisión, así como una multa de quinientas a mil unidades de medida y actualización, lo que equivale a 51 mil y hasta los 103 mil pesos.