Mentir nunca fue tan fácil

El 30 de noviembre se celebra el Día Mundial de la Ciberseguridad, para tomar conciencia sobre los riesgos del universo digital

Compartir
Compartir articulo
(Foto: Pixabay)
(Foto: Pixabay)

Facebook e Instagram tendrán que decir cuando utilizan contenidos creados o modificados digitalmente, como un video deepfake de un candidato. La industria tecnológica se prepara para una ola de videos, imágenes y audio creados con inteligencia artificial antes de las elecciones de 2024 en Estados Unidos.

La nueva regla entraría en vigor en todo el mundo a principios del 2024, en el marco electoral estadounidense. Quienes no cumplan podrían recibir sanciones. Definitivamente la IA aplicada a las campañas políticas llegó para quedarse, pero si los anunciantes utilizan medios sintéticos, necesitarán revelarlos para asegurar que la gente no sea engañada.

La campaña electoral de 2008 de Barack Obama fue la primera en utilizar eficazmente las redes sociales. Ahora, una tecnología transformadora parece destinada a revolucionar las campañas políticas: la inteligencia artificial. El contenido creado por computadora, que desdibuja la línea entre la realidad y la ficción, genera preocupación en todo el mundo.

Google va en la misma dirección que el grupo Meta y en el último septiembre indicó que exigirá a los anunciantes lo mismo. Ambos gigantes son las mayores empresas de publicidad en Internet por ventas totales en todo el mundo, por lo que sus decisiones probablemente marquen un norte y se conviertan en estándares de facto en el negocio online, consiguiendo regular una actividad millonaria y con altísimo impacto sobre la población.

Los anuncios políticos que incluyen contenido artificial que representen de manera “ficticia” a personas, sus actos y dichos o eventos reales de apariencia realista, deben incluir una información “clara y visible” advirtiendo a los espectadores que no se trata de contenido real. Todo sugiere que la tendencia será que la industria Tech debe desarrollar mecanismos, como marcas de agua, para garantizar que los usuarios sepan cuándo el contenido fue generado por IA.

La IA permite a cualquiera crear gratis textos, audios y vídeos cada vez más convincentes. La avalancha de fake news, desinformación y deepfakes van hermanadas a este crecimiento exponencial, y las capacidades de discernimiento y detección son bajas en virtud de la altísima calidad lograda, y que, a esta altura, las noticias nos eligen. El comportamiento como usuarios: perfil, apetencias, likes, patrón de navegación y hasta la ubicación geográfica; generan una correlación con los contenidos que los anunciantes quieren que veamos.

En nuestro país, durante las múltiples elecciones del 2023, varios de los candidatos y actores de la política fueron protagonistas de contenido generado artificialmente. La IA está mejorando rápidamente a la hora de imitar la realidad, lo que plantea grandes interrogantes sobre cómo regularla.

Durante los últimos años, la IA se ha utilizado para insertar digitalmente rostros de mujeres en vídeos pornográficos, con propósitos extorsivos o comerciales, producidos para explotar la imagen de celebridades y comercializarlos o afectar la reputación. Últimamente fueron utilizados como instrumento de venganza, a manos de usuarios anónimos que a costos bajísimos obtienen un puñal electrónico para dar rienda suelta a un despecho que rápidamente se viralizará.

Entramos en una fase en la que cualquier cosa puede ser falsa. Cualquiera puede negar la realidad, generando un video en apenas 5 minutos y viralizarlo. La contracara de este proceso es el crecimiento de Fake News y Deep Fakes, donde ante un eventual video que afecta a un candidato negativamente, aunque sea real, el sindicado simplemente podría afirmar que es falso.

En algunos ámbitos se sostiene la necesidad de un desarme mutuo, un tratado de no proliferación, como si se tratara de capacidades de bombardeo con ojivas nucleares, cuando en realidad se trata del uso de IA generativa por parte de los partidos políticos, sugiriendo que esto podría afectar la democracia.

Los optimistas de la IA señalarán que existen casos de uso positivos para las campañas políticas, es real, durante las elecciones de 2020 en India, el mensaje en vídeo de un candidato se tradujo a varios idiomas y dialectos en un intento de llegar a más votantes. La IA permite analizar millones de datos con el fin de dirigirse quirúrgicamente a los votantes de manera más certera.

Lo cierto es que esto está ocurriendo y por el momento es imparable. Las imágenes falsas del expresidente Donald Trump peleándose con la policía, una imagen del Papa Francisco vistiendo un elegante abrigo acolchado y una canción falsa usando voces clonadas de las estrellas de la música; son algunos ejemplos.

Los riesgos de la IA no son solo lo que la tecnología puede hacer, sino también cómo respondemos a estas herramientas. No existe una fórmula mágica para distinguir el contenido generado por IA del creado por humanos, es por ello que fechas como estas nos recuerdan la importancia de informarnos y estar alertas a los contenidos digitales.