Cómo utiliza el Estado Islámico la Inteligencia Artificial para difundir su propaganda

Cuatro días después de que el Estado Islámico atacara un lugar de conciertos en Rusia en marzo, un video comenzó a circular en una plataforma privada afiliada al grupo terrorista. La transmisión de 92 segundos mostraba a un presentador de noticias con casco y uniforme militar diciendo que el ataque no fue una operación terrorista, sino parte del “contexto normal de la guerra en curso entre el Estado Islámico y los países que luchan contra el Islam.”

El “presentador” era falso, un clon generado por inteligencia artificial creado por simpatizantes del Estado Islámico como parte de un nuevo programa de medios generados por IA llamado News Harvest, según videos y mensajes de chat compartidos con The Washington Post por el SITE Intelligence Group, que rastrea movimientos terroristas y extremistas en línea.

Desde marzo, el programa ha ofrecido despachos de video casi semanales sobre las operaciones del Estado Islámico en todo el mundo. Hecho para parecer una transmisión de noticias de Al Jazeera, el programa —que no ha sido informado previamente— marca la aparición de la IA como una poderosa herramienta de propaganda mientras los afiliados del Estado Islámico ganan fuerza y reconstruyen las operaciones mediáticas del grupo, dijo Rita Katz, cofundadora del SITE Intelligence Group.

“Para ISIS, la IA significa un cambio de juego,” dijo Katz. “Va a ser una forma rápida para ellos de difundir y diseminar sus sangrientos ataques [para] llegar a casi todos los rincones del mundo.”

Los programas comienzan mostrando un logotipo gráfico y una secuencia de títulos. Presentadores de noticias generados por IA aparecen en pantalla, vestidos con equipo de combate o túnicas formales, mientras cintillos de noticias se desplazan y metraje de video muestra a miembros del Estado Islámico llevando a cabo misiones terroristas. Los presentadores leen despachos de medios oficiales del Estado Islámico, incluyendo al-Naba y Amaq.

Los videos ofrecen algunas de las primeras señales de que la IA está ayudando a los grupos terroristas a diseminar rápidamente propaganda y reclutar miembros, dijeron expertos en medios de terrorismo, e incluso han desencadenado un debate interno sobre el uso de la tecnología bajo la ley islámica.

El Estado Islámico es conocido por su operación mediática llamativa, que crea videos de reclutamiento al nivel de Hollywood que son atractivos para los jóvenes. Los generadores de video de IA ahora les permiten crear ese tipo de contenido por una fracción del costo. Varios grupos militantes islamistas, incluidos al-Qaeda, han mostrado interés en usar chatbots de IA, generadores de imágenes y clonadores de voz para crear rápidamente desinformación, según mensajes compartidos con The Post.

La inteligencia artificial brinda a los simpatizantes del Estado Islámico la capacidad de crear propaganda disfrazada de manera inocua, como una transmisión de noticias, lo que dificulta la moderación por parte de las empresas tecnológicas, dijo Katz. Las herramientas de IA baratas y fáciles de usar permiten que los videos se hagan rápidamente y con un presupuesto reducido, beneficiando a grupos como el Estado Islámico y al-Qaeda, que han sido debilitados por ataques militares.

Los simpatizantes del Estado Islámico han estado ansiosos por usar la IA para propaganda. El 15 de marzo, un simpatizante, “Al Kurdi 500,” defendió en un servidor de mensajería privada por qué otros simpatizantes deberían adoptar la IA.

“Sería genial si los hermanos produjeran videos sobre noticias diarias, como una alternativa a leer las noticias en texto y ver imágenes”, escribió Al Kurdi 500, “como hacen los canales de noticias como Al Jazeera” al hablar sobre eventos.

“La tecnología ha evolucionado mucho y esto sería más fácil de hacer hoy en día, especialmente con el uso de la IA”, agregó Al Kurdi 500. “Los medios son tan importantes como la guerra física, o incluso más. Porque tienen una gran influencia sobre la gente.”

Siete días después de ese mensaje, miembros del Estado Islámico mataron al menos a 133 personas en un ataque a una sala de conciertos en el área de Moscú. Un simpatizante del grupo extremista llamado Hisad se movilizó rápidamente para crear un video generado por IA. El 26 de marzo, Hisad publicó el primer episodio de News Harvest en una plataforma de mensajería privada.

Desde el ataque en Rusia, se han publicado seis transmisiones de News Harvest, proporcionando una visión general de las recientes operaciones de los afiliados del Estado Islámico en todo el mundo, incluyendo Níger, Camerún, Irak, Siria y Nigeria. No está claro qué tecnología de IA se está utilizando, aunque algunos simpatizantes en publicaciones han alentado el uso de “buen” software de IA, como la herramienta de clonación de voz de Eleven Labs, una empresa de generación de audio por IA. (Eleven Labs no respondió a una solicitud de comentarios).

Steven Stalinsky, director ejecutivo del Instituto de Investigación de Medios de Comunicación del Medio Oriente (MEMRI), dijo que los episodios no son realizados por el brazo oficial del Estado Islámico, por lo que no está claro si se alinean con la estrategia general del grupo. Pero dijo que no se sorprendería si creara una división de medios de IA, ya que siempre ha sido rápido en adoptar tecnología de punta.

Los medios pro-Estado Islámico ya están buscando personas con habilidades en IA, dijo. Un mensaje obtenido por MEMRI del 23 de abril muestra que se solicita expertos en creación de carteles, redacción de artículos y edición de videos, y con conocimientos en Adobe Photoshop, Premiere e IA. “Oh muyahidines de los medios”, decía la publicación. “Los medios están esperando tu ataque.”

Otras organizaciones militantes islamistas, como al-Qaeda, también están discutiendo el uso de IA. El 9 de febrero, un grupo afiliado a al-Qaeda anunció que comenzaría a organizar talleres de IA en línea. Al día siguiente, se asoció con otra organización afiliada a al-Qaeda para lanzar una guía de 50 páginas titulada “Formas increíbles de usar chatbots de inteligencia artificial”, que proporcionaba una visión general básica de ChatGPT de OpenAI, incluyendo informes de medios como Wired Magazine sobre IA traducidos al árabe, según un documento que el SITE Intelligence Group compartió con The Post.

“ChatGPT es una herramienta poderosa”, decía la introducción de la guía. “Así que, veamos qué puedes hacer con esta herramienta, ¿de acuerdo?”

Stalinsky dijo que las empresas tecnológicas donde los simpatizantes del Estado Islámico difunden contenido —como en la plataforma de mensajería segura Rocket.Chat, Telegram y X— hacen un mal trabajo al eliminar materiales de militantes islamistas. Ahora que la IA permite que surja más de este tipo de medios, dijo, será un desafío para los reguladores y los esfuerzos de contraterrorismo.

Laís Machado Rocha, representante de relaciones públicas de Rocket.Chat, dijo que la empresa es una plataforma de código abierto que no aloja mensajes en sus servidores y, por lo tanto, no puede eliminarlos. “La difusión de mensajes está limitada a los usuarios del espacio de trabajo ilegal específico”, dijo Rocha.

Telegram y X no respondieron a solicitudes de comentarios.

Hace más de una década, el brazo mediático del Estado Islámico, al-Hayat, permitió al Estado Islámico producir videos de alta calidad, una táctica clave para reclutar personas de todo el mundo. Aunque los ataques militares occidentales han acabado con la división, dijeron expertos en terrorismo, la IA permite a los simpatizantes del Estado Islámico crear rápidamente propaganda en los días posteriores a un ataque terrorista que puede permanecer en línea más tiempo que el contenido sangriento, cuando la oportunidad de radicalizar nuevos miembros es alta.

“Si llevas a cabo el mejor ataque del mundo y no lo propagas, perdiste tu logro”, dijo Katz. “Lo que la IA está haciendo ahora es permitirles crear tanto como quieran en poco tiempo.”

Mientras tanto, los videos también han generado una controversia interna entre los simpatizantes del Estado Islámico sobre si las representaciones artificialmente generadas de humanos están prohibidas bajo la ley islámica, conocida como “haram”.

“No muestres la cara de dibujos o la cara de... animaciones, ES PROHIBIDO HARAM”, escribió un simpatizante del Estado Islámico llamado Hamed 123 al creador de la serie News Harvest en una plataforma privada, según mensajes que el SITE Intelligence Group compartió con The Post.

Hamed 123 escribió que las personas que hacían imágenes “dibujando o grabando” serían castigadas en el Día de la Resurrección del Islam. “Estas imágenes prohibidas son imágenes de seres animados, como humanos, animales y pájaros”, agregó Hamed 123.

Hisad respondió a principios de mayo. “Fui y hablé con el jeque sobre esto y él dijo que es haram tener animación o dibujo de IA siendo mostrado”, escribió Hisad. “Así que me dijo que difuminara la cara del modelo y por eso lo ves así ahora”, refiriéndose a episodios más recientes de la transmisión de News Harvest donde el presentador generado por IA se ve más caricaturesco, con el rostro oscurecido.

Aaron Zelin, investigador principal del Instituto Washington para la Política del Cercano Oriente, dijo que la IA podría ayudar en el crecimiento del extremismo local al ofrecer a las personas en cualquier lugar la capacidad de consumir propaganda, crear medios generados por IA y involucrarse con el grupo extremista.

“Si lanzas muchas piezas de espagueti contra la pared, eventualmente una de ellas se va a pegar”, dijo. “Podría proporcionar más vías para la viralidad de este tipo de contenido.”

© 2024, The Washington Post