“Deepfake pornográfico”: dos diputados presentaron un proyecto para penalizar la creación de contenido sexual mediante inteligencia artificial

Durante la última semana de sesiones ordinarias en el Congreso de la Nación, dos legisladores de la Cámara baja presentaron un proyecto de ley para reprimir con penas de prisión el uso de inteligencia artificial para crear y replicar “contenido deepfake pornográfico” sin consentimiento de la persona afectada. La propuesta apunta, a su vez, a castigar la “violencia digital” o ciberacoso derivada de la difusión de ese material falseado en plataformas digitales o redes sociales de acceso masivo.

La iniciativa en cuestión fue escrita por la diputada por Chubut Eugenia Alianiello y el diputado por Jujuy Guillermo Snopek. Ambos pertenecen a la bancada de Unión por la Patria.

La propuesta de ley se encuadraría dentro del Capítulo II del Título III del Código Penal, que regula los delitos contra la integridad sexual. Y es que propone incorporar dos artículos (128 bis y 131 bis) a ese texto legal con la intención de “ofrecer una herramienta jurídica contundente y efectiva para proteger a las personas, sobre todo a niños, niñas y adolescentes de la violencia digital, especialmente en un contexto donde el anonimato en línea y la difusión masiva de contenido agravado por el uso de tecnologías avanzadas pueden tener consecuencias devastadoras en la vida de las víctimas”.

“Artículo 128 bis. Será reprimido con prisión de tres (3) a ocho (8) años quien, por cualquier medio, produjere, financiare, ofreciere, comerciare, publicare, facilitare, divulgare o distribuyere imágenes o representaciones de menores de dieciocho (18) años participando en actividades sexuales explícitas, reales o simuladas, como así también toda representación de sus partes genitales, reales o simuladas, con fines predominantemente sexuales”, dispone el proyecto de los diputados Alianiello y Snopek.

También añade: “Será reprimido con prisión de uno (1) a seis (6) años quien, sin el consentimiento de la persona afectada, produzca, distribuya, publique o posea contenido audiovisual manipulado mediante inteligencia artificial o cualquier otra tecnología, que represente a una persona mayor de edad en situaciones de desnudez, actos sexuales o cualquier representación de carácter íntimo, reales o simuladas. Será reprimido con prisión de un (1) mes a tres (3) años el que facilitare el acceso o suministrare material sexual explicito o pornográfico, real o simulado, a menores de catorce (14) años”.

Bajo esos parámetros, la misma cláusula establece sanciones más severas -con penas de seis a doce años de cárcel- cuando “La difusión se realice en plataformas digitales o redes sociales de acceso masivo y “Se cometa el delito por parte de una persona que tenga una relación de confianza, parentesco, de dependencia, de autoridad, o de poder, o aprovechándose de que la víctima por cualquier causa no haya podido consentir libremente la acción”.

Y estipula: “Todas las escalas penales previstas en este artículo se elevarán en un tercio en su mínimo y en su máximo cuando la víctima fuere menor de trece (13) años”.

Al fundamentar la reforma, los legisladores expresaron: “La evolución de la inteligencia artificial ha permitido el desarrollo de tecnologías capaces de generar contenido audiovisual manipulado, conocido como deepfake, que puede ser utilizado para crear imágenes y videos pornográficos sin el consentimiento de las personas involucradas. Los casos y denuncias se han multiplicado exponencialmente en los últimos años, generando zozobra en muchos casos a la comunidad escolar de distintas provincias del país. Esta práctica constituye una clara forma de violencia digital que vulnera el derecho a la intimidad, la dignidad y la imagen personal, afectando de manera considerable a mujeres, hombres, niñas, niños y personas de la comunidad LGBTIQ+”.

Además, precisaron que el Código Penal no tiene contemplado de forma específica la creación, distribución o uso de “deepfakes con contenido sexual”, y eso, según consideraron, genera un “blanco legal que deja a las víctimas desprotegidas y sin herramientas legales sólidas y eficaces para enfrentar esta problemática”. Luego aseguraron:”este proyecto de ley propone una modificación del Código Penal para incluir la creación, difusión y posesión de contenido deepfake pronográfico como un delito específico, con agravantes en situaciones de especial vulnerabilidad”.

Por su parte, el artículo 131 bis fija penas de prisión de uno a cuatro años para quien “hostigue, acose, persiga o intimide a menores de dieciocho (18) años utilizando cualquier medio digital o electrónico, incluyendo la creación o difusión de contenido deepfake, con el objetivo de generar temor, angustia o daño emocional. La pena prevista en este artículo se elevará en un tercio en su mínimo y en su máximo cuando la víctima fuere menor de trece (13) años”.

Los diputados afirmaron que la modificación tiene como objetivo actualizar la normativa para abordar la “creciente amenaza de los deepfakes pornográficos”. Según señalaron, con esta iniciativa se busca que Argentina se incorpore al grupo de países que ya han tipificado esta conducta como delito. También explicaron que la medida responde al compromiso internacional firmado por el país en octubre del año pasado, destinado a proteger los derechos digitales y combatir la violencia de género en el ámbito virtual.

Tras la presentación del documento, se dispuso su giro a las comisiones de Legislación Penal (regente del trámite), Comunicaciones e Informática y Familias, Niñez y Juventudes para su estudio y tratamiento.