Los videos falsos hechos con IA inundan las elecciones en Brasil

Brasil pasó años combatiendo las mentiras electorales en internet. Ahora, la inteligencia artificial está desconcertando a las autoridades y transformando una contienda de alto riesgo.

Videos creados con inteligencia artificial, que van desde lo divertido y absurdo hasta lo sombrío y engañoso, han inundado el internet brasileño antes de las elecciones presidenciales del domingo, decisivas para el futuro del país.

Esto ha convertido a la democracia más grande de América Latina en un laboratorio en tiempo real para el uso electoral de la IA, ofreciendo paralelismos con Estados Unidos, donde se acercan unas elecciones intermedias cruciales, y con otras naciones que lidian con el efecto de nuevas tecnologías poderosas en la vida política.

Pero en Brasil, una nación de 214 millones de habitantes crónicamente conectada a internet, donde la desinformación ha definido las elecciones durante casi una década, la avalancha de IA --creada por candidatos, estrategas y ciudadanos comunes-- se ha convertido en un claro indicador de la capacidad de la nación para vigilar el contenido en línea.

La desinformación en internet ya es un sello distintivo de la temporada electoral de Brasil, pero la prevalencia de la IA y su creciente sofisticación están planteando un nuevo gran desafío para las autoridades brasileñas que trabajan para proteger la integridad del voto del país.

Brasil, que tiene algunas de las regulaciones más estrictas del mundo contra las falsedades electorales, ha emitido reglas igual de severas sobre el uso de IA durante las elecciones. Sin embargo, hasta ahora, estas salvaguardas apenas se habían puesto a prueba.

"Hicimos las reglas, ahora estamos observando qué sucede", dijo Kássio Nunes Marques, el presidente del tribunal electoral de Brasil, que supervisa la votación.

La elección brasileña enfrenta al presidente Luiz Inácio Lula da Silva, un izquierdista, contra Flávio Bolsonaro, un retador de derecha, en una reñida contienda por la presidencia. También es la mayor prueba en la región para una derecha en ascenso, la cual ha ganado siete votaciones presidenciales consecutivas en los últimos 18 meses.

En la carrera por persuadir a un público brasileño profundamente dividido, las redes sociales se han convertido en un campo de batalla político clave. Y en Brasil, como en otras partes del mundo, la IA se ha convertido en una herramienta potente para difundir mensajes políticos y moldear la conversación en línea.

O solo para divertirse, como en los memes a continuación.

El tribunal electoral de Brasil prohíbe a los candidatos usar deepfakes (contenidos ultrafalsos); videos o mensajes de audio sintéticos pero realistas, durante las campañas. También exige a las campañas que etiqueten claramente los videos generados por IA.

"Cuando un votante escucha a un candidato que ha sido mejorado con inteligencia artificial, ¿está realmente escuchando al candidato?", dijo Nunes Marques. "Algo que podría parecer inofensivo podría, de hecho, causar daño al proceso electoral".

Las empresas tecnológicas, incluidas Meta, Google y OpenAI, cumpliendo con una solicitud judicial, proporcionaron planes detallados sobre cómo manejarían la IA producida y compartida en sus plataformas.

Y, antes de las elecciones, las autoridades electorales prohibieron a las empresas permitir que los chatbots clasificaran o recomendaran políticos, aunque observadores independientes han descubierto que algunas plataformas han infringido esa regla.

Las regulaciones más amplias de redes sociales del país también exigen a las plataformas digitales que eliminen rápidamente las publicaciones de usuarios comunes que difundan mentiras electorales, ataquen las instituciones democráticas o infrinjan de otro modo las leyes brasileñas.

Pero las reglas no se han ajustado para distinguir el contenido generado con IA con la intención de engañar de la IA utilizada para la expresión creativa, según André Giacchetta, un abogado que representa a plataformas de redes sociales en Brasil.

"La regulación", dijo Giacchetta, "no establece un umbral de cuándo exactamente el uso de IA comienza a constituir una posible interferencia en el proceso electoral". Esto, argumentan los críticos, puede llevar a una vigilancia excesiva del contenido generado por IA que podría limitar la libertad de expresión.

Para abordar los nuevos desafíos que plantea la desinformación generada con IA, empresas como Google y OpenAI han desarrollado formas de marcar los videos creados con sus chatbots, como agregar automáticamente marcas de agua. Plataformas como YouTube también están utilizando identificación biométrica para detectar y eliminar videos electorales ultrafalsos.

Sin embargo, frenar la rápida propagación de falsedades de IA en realidad ha sido difícil.

Si las plataformas no logran detectar y eliminar el contenido engañoso generado por IA, el tribunal electoral puede ordenarles, y lo ha hecho, que lo retiren. Sin embargo, los expertos dicen que ese proceso, lento y burocrático, no está a la altura de los videos virales creados con IA que pueden propagarse como la pólvora por internet.

"El villano al que nos enfrentamos ahora es muy, muy rápido", dijo Cristina Tardáguila, investigadora de desinformación y fundadora de Agência Lupa, una agencia brasileña de verificación de datos. Las empresas también están fallando a la hora de detectar las infracciones en sus propias plataformas, añadió: una encuesta de su organización identificó que aproximadamente el 10 por ciento del contenido de IA creado por candidatos políticos carecía de una etiqueta.

Además, el enorme volumen de contenido que generan los bots dificulta cada vez más rastrear la desinformación creada con inteligencia artificial y determinar sus verdaderos efectos, según Tai Nalon, directora de Aos Fatos, un grupo de investigación que monitorea la información falsa en Brasil.

Los expertos dicen que la tarea de vigilar la IA se complica por la forma en que han cambiado las plataformas de redes sociales. Mientras que antes mostraban a los usuarios cronologías lineales de las publicaciones, ahora dependen de algoritmos sumamente personalizados y secretos que pueden promover agresivamente contenido en la sección de noticias de las personas y ampliar el alcance de la desinformación creada con IA.

La imparcialidad de las empresas tecnológicas también se ha puesto en duda en los últimos días, después de que Lula y observadores independientes acusaran a Meta de favorecer a su rival.

Al mismo tiempo, las empresas tecnológicas han reducido sus esfuerzos de moderación, añadió Nalon. "Estamos en un punto en el que el problema se ha disparado, mientras que las herramientas con las que contamos han disminuido", dijo.

Los expertos dicen que los brasileños, con su profundo amor por los memes y uno de los mayores usos de redes sociales en el mundo, han sido particularmente susceptibles al atractivo de la IA. Un 56 por ciento de los brasileños dice confiar en la IA, en comparación con el 40 por ciento de los estadounidenses.

Esto ha hecho que los videos generados con IA sean especialmente efectivos, y populares, en Brasil.

Buscando engañar, algunos de estos videos presentan encuestas falsas o votantes ficticios que critican duramente a los candidatos en segmentos que parecen reportajes de noticias. Otros exageran la popularidad de cada candidato usando videos realistas de IA con multitudes falsas llenando las calles de las ciudades brasileñas.

Jair Bolsonaro, el expresidente de derecha que aún es adorado por millones, también aparece de manera destacada. En un mercado de agricultores y frente al palacio presidencial, una versión de IA de Bolsonaro ha estado reuniendo apoyo para su hijo, a pesar de que, de hecho, se encuentra bajo arresto domiciliario como parte de su sentencia de 27 años de prisión por planear un golpe de Estado tras perder la última elección.

El propio uso de la desinformación sobre el fraude electoral por parte del Bolsonaro mayor inspiró a miles de sus seguidores a irrumpir en la capital de Brasil tras su derrota, exigiendo que los militares revocaran el resultado.

En esta ocasión, muchos videos virales de las elecciones han aprovechado, y amplificado, acusaciones de corrupción o temores de que Estados Unidos pueda estar interfiriendo en las elecciones brasileñas para ayudar al Bolsonaro más joven.

En un video visto más de 800.000 veces, un Lula musculoso salva a un perro que lleva el nombre del sistema de pagos instantáneos de Brasil, PIX, el cual el gobierno de Donald Trump ha atacado y utilizado para justificar en parte los aranceles.

Los partidarios de Bolsonaro, por ejemplo, han empleado IA para mostrarlo como un superhéroe que salvará a Brasil al tomar medidas enérgicas contra el crimen y reactivar la economía, mientras retratan a su rival como corrupto.

En un video que vincula a Lula con la corrupción, se muestra al presidente huyendo de la policía junto a un juez del Supremo Tribunal vinculado a un escándalo de corrupción que se cierne sobre las elecciones. La crisis en el máximo tribunal de la nación ha dañado la imagen de Lula entre algunos votantes.

En otro video, el banquero encarcelado en el centro de ese escándalo de corrupción derrama lágrimas sobre una foto tomada con Bolsonaro, mientras el candidato juguetea en una tina llena de dinero. Bolsonaro está siendo investigado por recaudar millones de dólares del banquero, Daniel Vorcaro, para financiar una película biográfica sobre su padre.

(En un país con una larga tradición de telenovelas, las crónicas dramáticas contadas por frutas de IA también han ganado popularidad, incluida una que presenta a una naranja como el presidente Trump y a un aguacate como Bolsonaro).

En última instancia, dicen los académicos, la IA simplemente ha hecho que sea más rápido, barato y fácil crear narrativas políticas engañosas o falsas que ya circulaban en línea.

Y más allá de la proliferación de desinformación en internet, la IA también tiene un tipo de influencia diferente, y quizás más poderoso. Los populares chatbots que ofrecen consejos personalizados a millones de personas cada día pueden influir fácilmente en las decisiones políticas, según Luiz Alexandre Reali Costa, quien dirige el Observatorio Brasileño de Inteligencia Artificial.

"Ningún problema que trae la IA es totalmente nuevo", dijo Costa. "Pero esta multiplica los desafíos a los que ya nos enfrentábamos".

Videos en la parte superior de este artículo del Partido Liberal de Brasil, @filmeiroSource y @iamsmoother vía Instagram

Thayz Guimarães colaboró con reportería desde Brasilia, y Leonardo Coelho, Isabela Cruz y Lis Moriconi desde Río de Janeiro. Trabajo adicional de Gray Beltran.

Ana Ionova es colaboradora del Times con sede en Río de Janeiro y cubre Brasil y los países vecinos.

Thayz Guimarães colaboró con reportería desde Brasilia, y Leonardo Coelho, Isabela Cruz y Lis Moriconi desde Río de Janeiro. Trabajo adicional de Gray Beltran.