La inteligencia artificial uniforma la escritura y dificulta detectar rasgos personales, según un estudio

Un análisis de investigadores de la Universidad del Sur de California (USC) identificó que los chatbots basados en modelos de lenguaje de gran escala (LLM) están volviendo la escritura más similar sin alterar en gran medida el significado de los textos, un cambio que puede dificultar la detección de rasgos de identidad, personalidad y salud mental, según informó el portal científico Phys.org.

El estudio, publicado en la revista científica Nature Human Behaviour, examinó más de 880.000 textos y encontró que, en el 87% de los casos, los textos originales y sus versiones reescritas por modelos de lenguaje obtuvieron puntuaciones de similitud semántica superiores al 95%. Ese resultado indica que los sistemas conservaron en gran medida el contenido, aunque uniformaron la forma de expresarlo.

El contexto no es menor: casi uno de cada tres estudiantes universitarios admitió haber usado ChatGPT en trabajos escritos, y el uso de IA en la redacción se disparó tras el lanzamiento de esa herramienta en noviembre de 2022, según la publicación original. El fenómeno, que se extiende también al ámbito profesional y académico, llevó a los investigadores a preguntarse qué ocurre con la diversidad lingüística cuando millones de personas delegan en los mismos sistemas la forma de expresar sus ideas.

Los investigadores, encabezados por Zhivar Sourati, del Centro de Ciencias del Lenguaje Computacional de la USC, analizaron textos de distintos tipos: historias publicadas en Reddit, artículos periodísticos, trabajos académicos, ensayos, publicaciones en redes sociales y discursos políticos. También pidieron a tres herramientas de inteligencia artificial generativa —GPT-3.5, Llama 3 70B y Gemini Pro— que reescribieran miles de textos redactados por humanos.

Reducción de variedad estilística con IA

Para rastrear ese fenómeno a lo largo del tiempo, el equipo analizó la evolución de textos publicados en ArXiv, Reddit y Patch News antes y después del lanzamiento de ChatGPT. Los datos mostraron una caída sostenida en la diversidad lingüística a partir de noviembre de 2022, una tendencia que se mantuvo a lo largo de los meses siguientes, según la publicación original.

Al cuantificar ese fenómeno, el equipo determinó que la reescritura con modelos de lenguaje redujo la variación en la complejidad de la escritura entre 21% y 50%. El trabajo parte de que dos personas pueden comunicar ideas parecidas con elecciones lingüísticas distintas, y esas diferencias contienen información sobre quiénes son.

Esos patrones del lenguaje permiten a los investigadores estudiar tanto a los individuos como a las sociedades. La advertencia de los autores es que los LLM pueden achicar esa diversidad al privilegiar formulaciones más comunes.

El efecto tiene además una dimensión cultural. De acuerdo con la publicación original, los LLM tienden a orientar la escritura hacia estilos asociados a culturas occidentales, suprimiendo matices propios de otras tradiciones lingüísticas. Los autores advierten que esto podría tener consecuencias para la preservación de la diversidad cultural expresada a través del lenguaje.

El impacto no se limitó al estilo. Después de la reescritura, los modelos informáticos usados para analizar los textos fueron, en promedio, seis puntos porcentuales menos precisos al identificar características personales de los autores.

Huellas personales: unas se debilitan, otras permanecen

El fenómeno no es neutral: los investigadores encontraron que los LLM no solo uniforman la escritura, sino que además amplifican los patrones lingüísticos asociados a características predominantes mientras suprimen los de grupos minoritarios, según compartió la publicación. Esto plantea un problema de representación, dado que el lenguaje resultante tiende a reflejar perfiles más comunes en detrimento de voces menos frecuentes.

El trabajo detectó que los LLM atenuaron ciertos patrones lingüísticos vinculados con rasgos personales. Entre ellos, las asociaciones entre el uso de pronombres y la extraversión —la tendencia a ser sociable y comunicativo—, entre las palabras relacionadas con amigos y la lealtad, y entre las referencias al futuro y la edad.

Otras asociaciones, en cambio, sí resistieron la reescritura: las vinculadas con palabras de emoción negativa y neuroticismo —la tendencia a experimentar emociones negativas con frecuencia—, con términos asociados a la religión y pureza, y con palabras sociales y género.

Los investigadores determinaron que la escritura asistida por modelos de lenguaje podría volver menos fiables las evaluaciones basadas en el lenguaje en áreas como la psicología, la atención de la salud mental, la selección de personal y los servicios personalizados. De acuerdo con el portal científico, harán falta más investigaciones para entender por qué algunas marcas personales del lenguaje se conservan y otras se debilitan.