Presentaron un amparo para frenar el uso de “deepfakes” en las elecciones nacionales

El abogado constitucionalista Andrés Gil Domínguez presentó una acción de amparo electoral preventiva colectiva contra el Estado Nacional para que se adopten medidas urgentes que eviten la difusión de videos falsos generados por inteligencia artificial (IA) en el marco de las elecciones nacionales del 26 de octubre próximo.

La demanda, que recayó en el juzgado federal electoral de María Servini, apuntó directamente contra la Jefatura de Gabinete de Ministros, el Ministerio del Interior y la Subsecretaría de Asuntos Políticos. Según el escrito, el objetivo es que se dispongan mecanismos eficaces “que prevengan, alerten y hagan cesar de forma urgente la difusión de DEEPFAKES o uso no autorizado del servicio de clonación de voz y rostro" a través de IA durante el proceso electivo que llevará a la renovación parcial de la Cámara de Diputados y de la de Senadores.

Gil Domínguez sostuvo que la irrupción de este tipo de contenidos falsos representa una amenaza directa al derecho constitucional de los ciudadanos a elegir libremente a sus representantes. Como ejemplo, el abogado recordó lo sucedido el 18 de mayo pasado durante las elecciones legislativas en la Ciudad de Buenos Aires. Ese día, en plena veda electoral, circularon dos videos generados con IA en los que se imitaba la imagen y la voz del expresidente Mauricio Macri y de la diputada Silvia Lospennato, llamando a votar por el candidato libertario Manuel Adorni.

“La veda electoral -explicó el constitucionalista-, en el sistema argentino, tiene por finalidad asegurar un período de reflexión sereno para el votante, libre de presiones o propaganda de último momento que coarten su decisión. Sin embargo, la táctica empleada -difundir un deepfake engañoso en la víspera de la elección- subvirtió ese resguardo institucional, introduciendo una manipulación informativa grave en el preciso momento en que el electorado debe tomar su decisión. De hecho, las consecuencias pudieron haber sido concretas: el candidato promovido en el video falso (el mencionado Adorni) resultó finalmente ganador del comicio, lo que profundizó la preocupación sobre el posible impacto real de esta maniobra en la orientación del voto ciudadano.

Y agregó: “Si bien es difícil medir con exactitud la influencia de una pieza de desinformación, es indudable que la intención detrás del deepfake era ‘alterar el resultado electoral’ mediante engaño, lo cual sienta un precedente alarmante de interferencia ilícita en procesos democráticos".

La acción judicial se presentó en nombre de todo el cuerpo electoral y no de casos particulares. En palabras del abogado: “La pretensión no se enfoca en ninguna afectación particular de un elector, sino por el contrario, se vincula directa y exclusivamente con la protección del cuerpo electoral en su totalidad y del proceso electoral”. Según Gil Domínguez, el uso de “deepfakes” en el ámbito electoral “representa una amenaza real y concreta al derecho al sufragio libre e informado” y “vulnera el bien colectivo de la integridad del proceso democrático justificando la urgente activación e herramientas de tutela colectiva”.

En esa línea, aseguró: “El Estado argentino se encuentra obligado a garantizar elecciones auténticas, lo que incluye prevenir y neutralizar cualquier forma de engaño masivo o manipulación tecnológica que distorsione la voluntad popular”.

Y precisó: “Los deepfakes electorales encuadran precisamente en esa categoría de interferencia prohibida, equiparable a un fraude moderno, frente a la cual la respuesta jurídica debe ser firme y urgente”.

La presentación, que publicó el blog Palabras del Derecho, también mencionó otros antecedentes locales y globales, como la difusión de un video del gobernador de Córdoba, Martín Llaryora, generado con IA y viralizado por un diputado nacional o el caso del presidente de Ucrania, Volodímir Zelenski, quien debió desmentir en 2022 un video falso en el que supuestamente pedía a sus tropas rendirse ante Rusia. “De hecho, AI Index 2024 -un informe elaborado por la Universidad de Stanford (Estados Unidos)- advirtió que los ‘deepfakes políticos ya están afectando los procesos electorales en todo el mundo’“, precisó el amparista.

En el escrito se propusieron distintas acciones concretas que, según el abogado, el Estado Nacional podría implementar sin vulnerar el debate democrático ni los derechos individuales. Una de ellas es la eliminación urgente de contenidos falsos, con plazos de remoción inmediatos, en especial durante la veda electoral. También se planteó la obligación de etiquetar con claridad los contenidos que hayan sido generados con herramientas de inteligencia artificial. Otra medida sugerida radicó en la aplicación de sanciones para las cuentas que difundan reiteradamente este tipo de contenidos, incluyendo la suspensión o bloqueo temporal, así como la desmonetización de perfiles y publicaciones para quitar incentivos económicos al engaño.

En los casos en los que los contenidos provengan del extranjero, se sugirió el uso de bloqueos geográficos para impedir su llegada al electorado local. También se propuso exigir a las plataformas que mantengan canales de contacto rápido con las autoridades electorales argentinas para colaborar en la remoción de contenidos o información maliciosa.

En respaldo jurídico, el abogado citó el artículo 140 del Código Penal, que castiga con prisión a quien “con engaños indujere a otro a sufragar en determinada forma o a abstenerse de hacerlo”. También mencionó el fallo de la Cámara Nacional Electoral en el caso “Villaver, María Victoria”, que consideró que estas conductas pueden violar el derecho a la participación política y comprometer “la legalidad, legitimidad o integridad del proceso electoral”. Ese tribunal ya había advertido sobre “la utilización de perfiles falsos de dirigentes políticos, la difusión de noticias falsas (fake news) construidas para crear corrientes de opinión en determinado sentido, a las que se aplican algoritmos y motores de búsqueda que garantizan una alta visibilidad y en consecuencia, una enorme repercusión en las redes. (…) y su multiplicación mediante trolls y bots”.

Así las cosas, en el último pasaje de su amparo electoral de tipo preventivo colectivo solicitó que se “dicte sentencia ordenando al Estado Nacional” que implemente “las medidas efectivas que prevengan, alerten y hagan cesar de forma urgente la difusión de Deepfakes o uso no autorizado del servicio de clonación de voz y rostro con Inteligencia Artificial respecto del proceso electoral nacional”.