Cómo funciona la desinformación y cómo contrarrestarla

¿Sabías que los incendios forestales que asolaron Hawaii el verano pasado fueron iniciados por un “arma climática” secreta que estaban probando las fuerzas armadas de Estados Unidos, y que las ONG estadounidenses estaban propagando el dengue en África? ¿Que Olena Zelenska, la primera dama de Ucrania, se fue de compras por valor de 1,1 millones de dólares en la Quinta Avenida de Manhattan? ¿O que Narendra Modi, el primer ministro de la India, haya recibido el respaldo de Mahendra Kapoor, un cantante indio que murió en 2008, en una nueva canción?

Estas historias, por supuesto, son todas falsas. Son ejemplos de desinformación: falsedades que pretenden engañar. Estos cuentos fantásticos se están difundiendo por todo el mundo mediante campañas cada vez más sofisticadas. Se están utilizando herramientas ingeniosas de inteligencia artificial (IA) y redes intrincadas de cuentas de redes sociales para crear y compartir fotografías, videos y audio inquietantemente convincentes, confundiendo realidad con ficción. En un año en el que la mitad del mundo celebra elecciones, esto está alimentando los temores de que la tecnología haga imposible combatir la desinformación, socavando fatalmente la democracia. ¿Qué tan preocupado deberías estar?

La desinformación ha existido desde que ha habido dos lados en una discusión. Ramsés II no ganó la batalla de Kadesh en 1274 a.C. Fue, en el mejor de los casos, un empate; pero nunca lo adivinarías por los monumentos que el faraón construyó en honor a su triunfo. El relato de Julio César sobre las guerras de las Galias es tanto propaganda política como narrativa histórica. La era de la imprenta no fue mejor. Durante la guerra civil inglesa de la década de 1640, los controles de prensa colapsaron, lo que generó mucha preocupación por los “panfletos difamatorios y ficticios”.

Internet ha empeorado mucho el problema. Se puede distribuir información falsa a bajo costo en las redes sociales; La IA también hace que su producción sea barata. Gran parte de la desinformación es turbia. Pero en una sección especial de Ciencia y tecnología, rastreamos las complejas formas en que se siembra y difunde a través de redes, cuentas de redes sociales y sitios web. La campaña de Rusia contra Zelenska, por ejemplo, comenzó como un vídeo en YouTube, antes de pasar por sitios web africanos de noticias falsas y ser impulsada por otros sitios y cuentas de redes sociales. El resultado es un engañoso barniz de plausibilidad.

Las cuentas de difusión generan seguidores al publicar sobre fútbol o la familia real británica, ganando confianza antes de mezclar desinformación. Gran parte de la investigación sobre desinformación tiende a centrarse en un tema específico en una plataforma particular en un solo idioma. Pero resulta que la mayoría de las campañas funcionan de manera similar. Las técnicas utilizadas por las operaciones de desinformación chinas para hablar mal de las empresas surcoreanas en el Medio Oriente, por ejemplo, se parecen notablemente a las utilizadas en los esfuerzos liderados por Rusia para difundir falsedades en Europa.

El objetivo de muchas operaciones no es necesariamente hacer que uno apoye a un partido político frente a otro. A veces el objetivo es simplemente contaminar la esfera pública o sembrar desconfianza en los medios de comunicación, los gobiernos y la idea misma de que la verdad es cognoscible. De ahí las fábulas chinas sobre las armas meteorológicas en Hawaii, o el intento de Rusia de ocultar su papel en el derribo de un avión malayo promoviendo varias narrativas contrapuestas.

Todo esto genera preocupación de que la tecnología, al hacer que la desinformación sea imbatible, amenace a la democracia misma. Pero hay maneras de minimizar y gestionar el problema.

Es alentador que la tecnología sea tanto una fuerza para el bien como para el mal. Aunque la IA abarata mucho la producción de desinformación, también puede ayudar con el seguimiento y la detección. Incluso a medida que las campañas se vuelven más sofisticadas, y cada cuenta de difusión varía su lenguaje lo suficiente como para ser plausible, los modelos de inteligencia artificial pueden detectar narrativas que parecen similares. Otras herramientas pueden detectar vídeos poco fiables identificando audios falsos o buscando signos de latidos reales, como lo revelan las variaciones sutiles en el color de la piel de la frente de las personas.

Una mejor coordinación también puede ayudar. En cierto modo, la situación es análoga a la ciencia del clima en la década de 1980, cuando los meteorólogos, oceanógrafos y científicos terrestres podían decir que algo estaba sucediendo, pero cada uno sólo podía ver una parte del panorama. Sólo cuando se reunieron se hizo evidente el verdadero alcance del cambio climático. De manera similar, los investigadores académicos, las ONG, las empresas de tecnología, los medios de comunicación y las agencias gubernamentales no pueden abordar el problema de la desinformación por sí solos. Con coordinación, pueden compartir información y detectar patrones, lo que permite a las empresas de tecnología etiquetar, silenciar o eliminar contenido engañoso. Por ejemplo, Meta, la empresa matriz de Facebook, cerró una operación de desinformación en Ucrania a finales de 2023 después de recibir un aviso de Google.

Pero una comprensión más profunda también requiere un mejor acceso a los datos. En el mundo actual de fuentes algorítmicas, sólo las empresas de tecnología pueden saber quién está leyendo qué. Según la ley estadounidense, estas empresas no están obligadas a compartir datos con los investigadores. Pero la nueva Ley de Servicios Digitales de Europa exige el intercambio de datos y podría ser un modelo para otros países. Las empresas preocupadas por compartir información secreta podrían permitir que los investigadores envíen programas para ejecutar, en lugar de enviar datos para su análisis.

Esta coordinación será más fácil de lograr en algunos lugares que en otros. Taiwán, por ejemplo, se considera el estándar de oro para hacer frente a las campañas de desinformación. Ayuda que el país sea pequeño, la confianza en el gobierno sea alta y la amenaza de una potencia extranjera hostil sea clara. Otros países tienen menos recursos y una confianza más débil en las instituciones. En Estados Unidos, lamentablemente, la política polarizada significa que los intentos coordinados de combatir la desinformación han sido presentados como evidencia de una vasta conspiración de izquierda para silenciar las voces de derecha en línea.

El hecho de una persona...

Es necesario tomar en serio y estudiar detenidamente los peligros de la desinformación. Pero tenga en cuenta que todavía son inciertos. Hasta ahora hay poca evidencia de que la desinformación por sí sola pueda influir en el resultado de una elección. Durante siglos ha habido personas que han difundido información falsa y personas que han querido creerles. Sin embargo, las sociedades generalmente han encontrado formas de hacer frente a esta situación. La desinformación puede estar adquiriendo hoy una forma nueva y más sofisticada. Pero todavía no se ha revelado como una amenaza inexpugnable y sin precedentes.

© 2024, The Economist Newspaper Limited. All rights reserved.