Los detectores de contenido generado por IA ya aciertan en 99.99% de casos

La proliferación de textos creados por chatbots en redes sociales y sitios web ha impulsado el desarrollo de herramientas especializadas que permiten a los usuarios identificar con precisión cuándo un contenido fue producido por inteligencia artificial.

La aparición de publicaciones con patrones repetitivos —listas de viñetas, abundancia de emojis y signos de puntuación como rayas largas— llevó a muchos usuarios a sospechar sobre el origen de esos textos. Los detectores de IA ofrecen una solución: basta con pegar un fragmento en la interfaz para recibir un porcentaje que estima cuánto del contenido proviene de un bot.

Una de esas herramientas es Pangram. La empresa que lo desarrolló afirma que su sistema acierta en 9.999 de cada 10.000 casos al identificar si un texto fue generado por IA. Asimismo, un estudio independiente de la Universidad de Chicago respaldó esa afirmación, señalando que el detector mostró resultados casi perfectos al analizar distintos tipos de textos.

Cómo funciona la detección de textos de IA

El mecanismo detrás de los detectores de IA no se limita a buscar características superficiales, como ciertos signos de puntuación o formatos. En declaraciones a The New York Times, Max Spero, fundador de Pangram, explicó que la clave está en analizar el “árbol de decisiones” que emplea cada chatbot, como Claude, ChatGPT o Gemini.

Cada palabra seleccionada por el modelo es el resultado de una serie de elecciones automáticas, y comprender ese patrón permite a los detectores reconstruir la “huella estilística” de la máquina.

“Estamos realizando una ingeniería inversa de su huella estilística”, dijo Spero. Esta metodología requiere recolectar grandes volúmenes de información sobre los modelos de IA para identificar patrones distintivos.

Durante una semana de pruebas por parte del medio estadounidense, la herramienta fue capaz de identificar correctamente textos personales mezclados con fragmentos generados por IA, así como distinguir entre publicaciones humanas y aquellas con intervención de chatbots en redes como LinkedIn y Reddit.

En uno de los experimentos, la herramienta detectó con exactitud qué partes de un mensaje de un trabajador tecnológico habían sido escritas por una persona y cuáles por una máquina, según relató el medio.

Dificultades para identificar imágenes de IA

Aunque los detectores de textos han alcanzado un alto grado de precisión, la identificación de imágenes creadas por inteligencia artificial representa un desafío mayor. Según se comprobó, tanto Pangram como Hive Detect —otro popular detector visual— fallaron en varios intentos al examinar imágenes ampliamente difundidas y desmentidas por distintos medios.

En las pruebas, Hive Detect clasificó erróneamente como reales nueve imágenes generadas por IA, incluyendo un falso embarazo de la actriz Zendaya, una foto de Mitch McConnell en un hospital y una señal callejera falsa en San Francisco. Por su parte, Pangram se equivocó en tres casos, incluyendo la fotografía de McConnell y la de la señal manipulada. Además, la herramienta se abstuvo de analizar cuatro imágenes por su baja calidad o contenido violento.

A pesar de estos errores, ambas plataformas detectaron con éxito algunos montajes notorios, como una supuesta boda entre Zendaya y Tom Holland, o una imagen de Donald Trump durante una visita a China. Según explicó Spero, la función de análisis de imágenes aún se encuentra en fase de desarrollo en su plataforma y, en pruebas internas, la tasa de acierto alcanzó 41 de 43 imágenes.

La eficacia de los detectores disminuye cuando las imágenes o textos han sido alterados, comprimidos o difundidos en baja calidad, una situación frecuente en las redes sociales. El propio Spero reconoció que el análisis visual aún requiere mejoras para enfrentar los desafíos del ecosistema digital actual.

Estudios recientes indican que alrededor del 50 por ciento de los artículos en línea tienen origen artificial, lo que refuerza la necesidad de herramientas de detección cada vez más sofisticadas. La evolución de estos sistemas podría convertirlos en aplicaciones tan indispensables como los antivirus tradicionales para navegar un entorno digital plagado de información automatizada.