Servini le ordenó al Gobierno informar qué medidas adoptó contra los eventuales “deepfakes” en las elecciones

La jueza federal con competencia electoral María Servini ordenó a la Dirección Nacional Electoral (DINE) del Ministerio del Interior que, en un plazo de 24 horas, informe el resultado de las medidas requeridas para prevenir la difusión de contenidos falsos generados con inteligencia artificial durante el proceso electoral del próximo domingo. La decisión se dictó en el marco de un amparo colectivo presentado por el abogado Andrés Gil Domínguez, tendiente a promover acciones “efectivas” para evitar la desinformación durante las elecciones legislativas.

En rigor, el constitucionalista había pedido “la adopción de medidas efectivas que prevengan, alerten y hagan cesar de forma urgente la difusión de deepfakes o uso no autorizado del servicio de clonación de voz y rostro con Inteligencia Artificial (IA) respecto del proceso electoral nacional de renovación parcial de la Cámara de Diputados y de la Cámara de Senadores que se celebrará el 26 de octubre de 2025”, al considerar que tales prácticas atentaban “de manera colectiva" el derecho humano a elegir libremente en un contexto transparente de decisión.

Según su presentación preventiva ante la justicia electoral, la "manipulación informativa mediante deepfakes ataca pilares esenciales del proceso democrático. La libre formación de la voluntad del votante se ve comprometida por una injerencia artificial y maliciosa”.

El Estado Nacional, a través de la Vicejefatura de Gabinete de Interior, cuestionó el amparo al considerar que “las medidas preventivas que pretende se adopten son de distinta envergadura y requieren mínimamente, de ser procedente su pretensión, que no lo es, de tiempo y normas de distinta jerarquía, pues se afectarían derechos y ellos son gozados conforme las leyes que reglamentan su ejercicio”.

También señaló que “el accionante no tiene configurado un interés concreto, inmediato y sustancial para considerar que existe una causa, no existe un agravio concreto, sus apreciaciones son conjeturales y especulativas (...) -y- solo se presentó para evitar un eventual perjuicio conjetural”.

Por su parte, corrida la vista al Procurador Fiscal Electoral, el funcionario reconoció la gravedad del problema y sostuvo en su dictamen que no había dudas “respecto a los riesgos que genera los deepfakes para la actividad política en general y los procesos electorales en particular, afectados por actos de comunicación malintencionada, falsa o directamente difamatoria (...)”. Bajo esos parámetros, pidió requerir informes al Estado Nacional sobre las acciones de prevención adoptadas y sugirió como “medida de carácter preventivo y acto de comunicación concreto frente al electorado y la sociedad en general" que el Poder Ejecutivo Nacional adhiera al “Compromiso Ético Digital 2025”, un pacto celebrado entre empresas tecnología, asociaciones de prensa y agrupaciones políticas para promover “la honestidad del debate democrático” y “contribuir a mitigar los efectos negativos de la divulgación de contenido falso”.

En cumplimiento de ese dictamen, la jueza Servini requirió en agosto al Estado Nacional que informara sobre las acciones de difusión y sensibilización planificadas o puestas en práctica referidas “a la circulación de la información por medios tradicionales -incluidos los digitales, plataformas o ámbitos de la comunicación digital-, particularmente, en lo relativo a los usos indebidos de las herramientas de Inteligencia Artificial que pudieran afectar el normal desarrollo de los comicios y/o del proceso electoral en general”.

En esa oportunidad, la magistrada pidió además a la Unidad de Análisis de la Información y a la Unidad de Inteligencia Artificial de la Cámara Nacional Electoral un informe sobre “las vías y procedimientos para denunciar, solicitar información y/o remoción de contenidos en las plataformas digitales ante las posibles denuncias que se realicen durante el presente proceso eleccionario”.

Este viernes Servini rechazó el amparo colectivo de Domínguez tras interpretar que el abogado carecía de legitimación procesal para impulsarlo. Para eso, citó doctrina de la Corte Suprema según la cual “la invocación de la calidad de ciudadano, sin la demostración de un perjuicio concreto, es insuficiente para sostener la legitimación”. En esa línea, señaló que “la calidad de elector invocada por el actor no es suficiente a fin de habilitar esta instancia judicial, en tanto no demuestra cuál es el perjuicio actual y concreto que sufre en el goce de los derechos que la Ley Fundamental le otorga”.

Sin embargo, la magistrada con competencia electoral aclaró que la preocupación planteada “es compartida por esta judicatura” y que, ante la “negativa y/o demora efectuada por los organismos del Poder Ejecutivo Nacional de las disposiciones sugeridas por el señor Procurador Fiscal y ordenadas en estos autos”, correspondía ordenar a la DINE que informe “en el término de 24 horas el resultado de las medidas ya requeridas en la presente causa”.

Antes del pasaje resolutivo, la jueza destacó la necesidad de abordar la problemática digital de manera mancomunada “para encontrar un acuerdo respecto de la mejor manera de mitigar los efectos de la desinformación –en lo relativo a los procesos electorales– sin perder de vista dos cuestiones fundamentales: que los ciudadanos deben tener información completa y confiable para ejercer sus derechos políticos (elegir y ser elegidos) y por otro lado, comprendiendo y respetando el rol preponderante que tiene la libertad de expresión”.

A su vez, Servini repasó los antecedentes normativos y jurisprudenciales sobre la materia. Recordó que la Cámara Nacional Electoral, mediante la Acordada N° 66/2018, advirtió sobre “el impacto y los nuevos desafíos que representa el auge de las plataformas y entornos digitales, dado que el uso de las redes sociales –que en los últimos años se tornaron herramientas de uso masivo– aceleraron los tiempos de circulación y difusión de la información”. Subrayó además que “las decisiones sobre esta temática no dependen de la autoridad de un magistrado sino de una compleja rama de interacciones entre los poderes del Estado, quienes son los encargados de la generación de políticas públicas y de la creación de normativas en tal sentido”.

“Considerando lo expresado precedentemente, se desprende que las maneras de resolver el conflicto entre la existencia de deepfakes y la libertad de elección de los ciudadanos sin restricciones y con información completa no son simples, ni sencillas sino que precisan de un trabajo en conjunto de toda la sociedad para dictar medidas de acción positivas a través de las cuales se refuerce el conocimiento de la ciudadanía sobre estas nuevas tecnologías sin menoscabar la libertad de expresión como así también posibles herramientas de detección de contenido con información falsa, posibles reglamentaciones de los alcances de la Inteligencia Artificial, o cualquier otro instrumento que se considere pertinente a tales fines”, señaló la jueza porteña.

Luego concluyó: “Teniendo en consideración todo lo hasta aquí expuesto, sin perjuicio de la falta de legitimidad ya tratada, y en atención a la preocupación planteada – compartida por esta judicatura, manifestada con la puesta en conocimiento de la Unidad de Análisis de Información y Unidad de Inteligencia Artificial de la Cámara Nacional Electoral-, en vísperas de las elecciones a llevarse a cabo el próximo 26 de octubre, (...) como medida ampliatoria de las herramientas ya existentes y al alcance de este tribunal para actuar ante los casos concretos que puedan suscitarse, es que corresponde ordenar a la Dirección Nacional informe a esta sede en el término de 24 horas el resultado de las medidas ya requeridas en la presente causa".