Roy Barreras alertó sobre los riesgos de la desinformación con IA a través de videos falsos: “Temen que los derrotemos”

El embajador de Colombia en Londres, Roy Barreras, se pronunció el lunes 25 de noviembre de 2024, sobre lo que considera una grave amenaza para la democracia: la propagación de noticias falsas y desinformación en el contexto electoral, especialmente cuando estas tácticas se combinan con el uso de inteligencia artificial (IA).

En un mensaje difundido a través de su cuenta de X, Barreras abordó los peligros de las campañas políticas sucias que recurren a calumnias, injurias y montajes, amplificados por tecnologías emergentes.

Ahora puede seguirnos en Facebook y en nuestro WhatsApp Channel.

“Sabemos que una de las amenazas a la democracia son las campañas políticas sucias plagadas de calumnias, injurias y montajes. Esa difusión de falsedades empeora con la inteligencia artificial capaz de hacer falsos videos, audios y fotomontajes para engañar incautos”, escribió Barreras en su publicación.

El diplomático señaló que este tipo de ataques no solo afectan la calidad del debate público, también reflejan el temor de ciertos sectores ante posibles competidores: “Ser blanco de esos ataques y de esas cloacas significa que temen que los derrotemos”, agregó y destacó cómo estas tácticas buscan desestabilizar a adversarios percibidos como una amenaza.

Los riesgos de la IA

No es la primera vez que el embajador se refiere a la evolución de las herramientas de inteligencia artificial para ilustrar sus preocupaciones, pues en febrero de 2024, Barreras compartió un video en sus redes sociales en el que utilizó un avatar generado por inteligencia artificial para explicar cómo se puede crear videos falsos.

En la grabación, el embajador preguntó: “¿Usted puede creer que este Roy no existe, es imaginario? Es generado en un programa de inteligencia artificial”, de esta forma, explicó cómo estas tecnologías permiten crear contenidos falsos que pueden manipular la opinión pública.

“Es decir, a usted pueden ponerlo a decir cualquier cosa en un espacio donde nunca ha estado, fabricando mentiras y falsedades que se llaman fake videos o videos falsos”, explicó.

En un contexto en el que la polarización política ya es un reto para la democracia, Barreras invitó a reflexionar sobre la responsabilidad compartida de gobiernos, plataformas tecnológicas y ciudadanos para combatir la desinformación y proteger el debate público.

El impacto de la desinformación en Colombia

El embajador recordó el plebiscito por la paz de 2016 como un ejemplo paradigmático de cómo la desinformación puede influir en la opinión pública.

Barreras aseguró que durante ese proceso, cadenas falsas difundidas por aplicaciones de mensajería crearon temor entre la población, como la falsa afirmación de que se quitarían pensiones a jubilados para financiar a excombatientes.

“Eso no existió nunca, pero mucha gente lo creyó de buena fe. Imagínense lo que pueden hacer ahora en campañas contra las personas o contra los candidatos con videos falsos y audios falsos”, advirtió Barreras.

El diplomático señaló que estas estrategias podrían utilizarse para atacar la reputación de candidatos en las próximas elecciones presidenciales, lo que pone en riesgo la integridad del proceso democrático.

Un llamado a la cautela en redes sociales

En su mensaje, Barreras enfatizó que la inteligencia artificial, aunque ofrece grandes oportunidades, también presenta serios riesgos cuando se usa con intenciones maliciosas.

Advirtió que estas herramientas pueden ser empleadas para crear montajes que destruyan moralmente a un candidato o desacrediten a figuras públicas mediante la propagación de calumnias.

“Pueden destruir moralmente un candidato, inventar calumnias, montajes, falsedades. Así que no crea todo lo que recibe en las redes sociales”, afirmó el embajador.

Barreras hizo un llamado a los usuarios de internet para que adopten una actitud crítica frente a la información que circula en redes sociales, especialmente en un contexto electoral: “Recuerde, no crea todo lo que ve en las redes. La IA genera muchas oportunidades, pero también transmite mentiras, falsedades y montajes”, concluyó.