Cinco alucinaciones de IA que pueden “colarse” en el contenido educativo y las estrategias para detectarlas

“Alucinar” más de una vez se escucha esa palabra cuando se analizan las respuesta de la inteligencia artificial ante ciertos pedidos, pero en su evolución esas escapadas de la realidad parecen estar cada vez más solapadas y requieren de mayor análisis por parte de quien utiliza la IA.

¿Qué pasa con esa fuente que no se puede chequear? ¿O ese libro que solo figura escrito por un autor en el catálogo de la IA? En el caso de la educación, constituyen un verdadero problema ya que pueden interferir de forma significativa en la adquisición e interpretación de saberes.

Un estudio reciente conducido en una escuela de negocios del Reino Unido (Dang y Nguyen, Stanford SCALE Initiative) mostró que solo el 20% de 211 estudiantes de segundo año logró identificar una alucinación insertada deliberadamente en una evaluación de alto impacto.

Compartimos cinco alucinaciones comunes que suelen aparecer en contenidos relacionados con educación y que siempre requieren un doble chequeo.

Dime la fuente, y te diré la veracidad

Un artículo publicado en ScienceDirect sobre integridad académica advierte que los sistemas generativos suelen inventar artículos inexistentes, DOIs falsos y nombres de revistas que nunca vieron la luz, especialmente cuando se les consulta sobre temas muy específicos o con escasa cobertura en sus datos de entrenamiento.

El algoritmo tiende a no querer admitir que no sabe de un tema y suple la falta inventando si no se le exige rigurosidad. Un estudio cualitativo con 63 estudiantes de ingeniería de la Universidad Khalifa (próximo a publicarse en Computers and Education) de Emiratos Árabes confirma que casi un cuarto de los comentarios sobre experiencias de alucinación mencionaba fuentes citadas que, al buscarlas, simplemente no existían.

Algunos consejos claves son los de exigirle a la IA el link de la fuente que pueda verificarse, revisar en buscadores, o buscar un DOI. También ocurre que muchas veces la IA no puede acceder a un informe completo y puede tomar información parcial desde un sitio que requiere doble verificación.

Fantasía algorítmica

La segunda categoría más citada entre las alucinaciones es la fabricación directa de información, como fechas históricas incorrectas, estadísticas inventadas o biografías con datos parcialmente falsos.

Estas fantasías son especialmente sensibles para los más jóvenes que no siempre cuentan con un marco de ciertos saberes que les permitan detectar un posible error. El mismo estudio de Khalifa University documenta el caso de un estudiante que pidió una biografía de un científico y recibió fechas y logros detallados, varios de ellos inexistentes o incorrectos al contrastarlos.

El artículo de Yingzhe Li publicado en Artificial Intelligence Education Studies (2025) explica el mecanismo técnico detrás de esto: los modelos son sistemas probabilísticos que predicen la palabra siguiente más probable según patrones aprendidos, no motores de verificación factual. Cuando faltan datos confiables sobre un tema, el sistema “completa” con información plausible en lugar de señalar la falta de certeza.

Una técnica para este tipo de chequeos ante información dudosa es el método SIFT (por sus siglas en inglés de Stop, Investigate, Find, Trace) desarrollado por Mike Caulfield y que consta en pausar ante la información recibida, investigar, buscar en fuentes alternativas para luego trackear las coincidencias o inconsistencias.

¿Explicación o confusión?

Este tipo de alucinación es particularmente riesgoso en contenido pedagógico porque no siempre es fácil de detectar ya que el error no está en un dato aislado sino en la lógica interna de una explicación.

La investigación de la Universidad Khalifa describe el llamado “efecto de fluidez-verdad” que se explica a partir de que cuando una respuesta se presenta de forma clara, articulada y segura, tendemos a percibirla como verdadera, independientemente de su exactitud real.

El mismo estudio cita una investigación con médicos residentes que solo lograron detectar alucinaciones de IA en un 55% de los casos, cifra que cae a 44,2% en escenarios clínicos complejos ante estudiantes que no poseen los conocimientos necesarios. Este patrón es transferible a cualquier disciplina: cuanto más específico y técnico el contenido curricular, más difícil resulta para un no experto notar el error.

Para trabajar este tipo de alucinación se apunta a aplicar lectura lateral, la técnica de fact-checkers profesionales documentada por el Stanford History Education Group, que consiste en abrir pestañas paralelas y contrastar la afirmación con fuentes académicas o periodísticas independientes antes de dar por válida una explicación.

Adulación ante la corrección

¿Qué ocurre cuando uno detecta el error y le avisa al modelo de IA que esté utilizando que es una alucinación o algo incorrecto? Este puede pedir disculpas y aparentar aceptar la corrección sin resolver realmente el error de fondo, un comportamiento denominado “sycophancy (adulación) regresiva”.

Diversos estudios- citados por la Universidad de Khalifa- indican que aproximadamente el 59% de los casos evaluados, con una tasa de persistencia del 78,5% se quedan en la adulación sin realizar la corrección del error.

De esta forma se genera una falsa sensación de haber corregido el contenido cuando en realidad el modelo solo se volvió más “amable” con el usuario. La clave siempre es volver a chequear que el error- en especial si es de fondo- haya sido corregido e insistir en la eliminación del mismo. También resulta eficiente pedirle al modelo evitar la condescendencia en las respuestas.

Errores en materiales educativos accesibles (audio y texto a voz)

Un tipo de alucinación menos discutido en la literatura académica, pero con impacto directo en la equidad educativa es lo que respecta a los sistemas de texto a voz (TTS) utilizados para hacer accesibles los materiales de estudio.

Estas “traducciones” pueden fabricar contenido, omitir pasajes completos o interpretar mal fórmulas y citas, generando audio que no refleja fielmente el texto original.

Según un análisis de la empresa ReadSpeaker (2026) este tipo de errores afectan de forma especial a estudiantes con discapacidad visual o dislexia, que dependen del audio como interfaz principal y no siempre tienen forma de contrastarlo con el texto escrito. La clave está en poder contrastar con otras fuentes que tengan mayor seguridad que una IA.

El trasfondo pedagógico

El estudio de Li (2025) insiste en que la respuesta educativa pasa por instalar hábitos de verificación como lectura lateral, SIFT, chequeo de fuentes primarias como partes claves de la alfabetización digital; siendo el pensamiento crítico una herramienta más de este proceso de interacción con los algoritmos.

Otro dato importante es entender cómo funciona la IA, ya que muchos estudiantes creen que es un “buscador” en una base de datos cuando en realidad trabaja con predicción estadística haciendo que las alucinaciones puedan quedar aún más solapadas a mayor falta de experiencia y conocimiento sobre un contenido.