La IA está distorsionando mensajes sobre temas polémicos como el aborto o el cambio climático

Herramientas de inteligencia artificial están modificando el sentido de mensajes sobre temas controvertidos como el aborto y el cambio climático, con potencial para influir en la opinión pública a largo plazo, según una investigación de las universidades de Oxford y Potsdam.

El estudio advierte sobre cómo los sistemas de redacción y resumen de textos, cada vez más utilizados, pueden introducir sesgos políticos en la comunicación digital, incluso cuando se les indica que respeten el sentido original de los textos.

Sesgos detectados en grandes modelos lingüísticos

El análisis de la Universidad de Oxford y el Hasso Plattner Institute de Potsdam centró su atención en los principales modelos de lenguaje usados por los cibernautas. Los resultados muestran que estos sistemas pueden alterar de forma significativa el contenido de mensajes sobre debates sociales sensibles, desde la religión hasta la crisis climática.

La investigación reveló que, en varios casos, las IA modificaron el sentido de mensajes sobre ateísmo, feminismo, control de armas y legalización de la marihuana. En una de las pruebas, un modelo de IA transformó un mensaje que cuestionaba la existencia de Jesús en una afirmación sobre su historicidad. En otra, un mensaje que describía el cambio climático como un “engaño” fue reescrito para apoyar la acción climática.

Cambios sutiles con impacto acumulativo

Los expertos advierten que los ajustes aparentemente menores en el significado de los mensajes pueden amplificarse a través de millones de interacciones, generando desvíos en la opinión pública superiores al sesgo inicial de las herramientas.

Los autores del estudio señalaron que esta problemática aún no está contemplada por normativas como la EU AI Act ni la Digital Services Act, lo que genera una “grave brecha de responsabilidad”.

Hasta ahora, las preocupaciones sobre sesgo en línea se habían enfocado en los algoritmos que crean burbujas de filtro para los usuarios. Sin embargo, los investigadores sostienen que la popularidad creciente de herramientas que resumen o reescriben textos, como la función de explicación de Grok en la red social X, plantea un riesgo inédito para la comunicación digital fiable.

Diferencias ideológicas entre plataformas

El informe detectó que los sistemas como Meta, Alibaba y Mistral tienden a reescribir mensajes con un sesgo liberal, sobre todo en temas como el feminismo o el cambio climático. Por su parte, la herramienta Grok, diseñada por la empresa de Elon Musk y presentada como una IA “buscadora de la máxima verdad”, mostró inclinaciones conservadoras y se orientó a desafiar narrativas convencionales.

En un caso particular, los investigadores solicitaron a Grok que explicara un mensaje con postura contraria al aborto. La respuesta de la IA incluyó tres argumentos alineados con la visión pro-vida, citando estudios de biología, ética médica y opinión pública, y sin exponer puntos de vista pro-elección.

El estudio documentó múltiples casos en los que los modelos alteraron el significado de los textos. Qwen, por ejemplo, suavizó un mensaje que comparaba a Donald Trump con Adolf Hitler, promoviendo en su lugar el diálogo constructivo.

La IA de Meta reescribió un mensaje sobre el aborto para agregar que puede representar una opción necesaria para las sobrevivientes de violación. Un modelo de Mistral transformó una publicación que negaba el cambio climático en otra que alertaba sobre el adelgazamiento del hielo ártico y la urgencia climática.

En materia de género, la IA de Mistral también cambió el sentido de un mensaje que defendía los roles tradicionales en el matrimonio, proponiendo en su lugar la igualdad como ideal de pareja.

Riesgo para la autenticidad de la comunicación digital

Sandra Wachter, coautora del estudio, comparó el impacto de la IA en la comunicación social con “contaminar el bosque”. En declaraciones a The Guardian, afirmó: “El costo es que estamos aprendiendo opiniones de otros que no son realmente suyas. Es completamente profundo. El lenguaje es una de las cosas que nos hace humanos y, de pronto, un mediador se introduce en ese proceso. La IA se impone como guardián del conocimiento y la comprensión”.

Duncan Brumby, profesor de interacción humano-computadora en University College London, advirtió sobre el peligro de que estas herramientas “pulen” los mensajes, eliminando matices importantes. “El riesgo es que el pulido elimina los bordes distintivos de lo que realmente se quería expresar”.