Qué hace realmente la inteligencia artificial cuando responde, según diversos estudios

¿Alguna vez le pediste algo a la inteligencia artificial y la respuesta llegó tan completa, tan segura, que no se te ocurrió dudarla? Nombres, fechas, fuentes, todo en orden. El problema es que una parte de eso puede no existir. Un relevamiento de revistas científicas publicado en mayo de 2026 encontró casi 147.000 citas inexistentes: autores inventados, títulos que nadie escribió, datos que nunca fueron publicados, todo con la misma confianza con que se cita cualquier fuente real. La pregunta que plantea ese hallazgo es: ¿qué hace exactamente la IA cuando responde?

La respuesta no es sencilla: los modelos de lenguaje, sistemas entrenados para predecir qué palabras van bien juntas, no para verificar si lo que dicen es verdad, no acceden a una base de datos de hechos comprobados ni contrastan sus afirmaciones antes de emitirlas. Analizan enormes volúmenes de texto, aprenden qué secuencias tienden a aparecer juntas y producen respuestas que resultan coherentes dentro de ese marco. El resultado puede sonar razonado, incluso erudito, sin que haya ningún proceso de verificación detrás.

La fluidez no garantiza que la información sea correcta

Esa distinción entre forma y contenido es el núcleo del problema. Un estudio publicado en Frontiers in Artificial Intelligence definió las “alucinaciones” —el término técnico para este fenómeno— como contenidos que parecen fluidos y coherentes aunque sean incorrectos, lógicamente inconsistentes o directamente inventados.

La definición importa porque describe algo contrario a la intuición: un texto puede estar bien escrito y ser falso al mismo tiempo, y la calidad de la escritura no dice nada sobre la calidad de la información.

Una investigación publicada en arXiv desarrolló esa idea y mostró que los modelos de lenguaje pueden enunciar principios correctos sin aplicarlos de manera consistente. Como si alguien pudiera explicar con detalle cómo se nada, pero se hundiera en cuanto entra al agua. El modelo puede describir cómo resolver un problema sin poder resolverlo.

Responder no es lo mismo que entender

Un análisis de julio de 2026 examinó esa brecha desde un punto de partida distinto. Al comparar cómo los humanos leen y escriben —dos procesos separados en el cerebro— con lo que hacen estos sistemas, los resultados mostraron que, en los modelos de lenguaje, lectura y escritura operan a través de un mecanismo único y acoplado: el sistema calcula qué palabra es más probable que siga a la anterior, sin detenerse a entender el sentido de lo que produce.

En el cerebro humano, en cambio, leer y escribir son capacidades disociables: una puede dañarse sin afectar a la otra. Lo que revela que responden a procesos distintos. No hay nada parecido a la comprensión que ocurre cuando una persona lee, procesa y reformula lo que entendió: hay texto que entra y texto que sale, dentro de un mecanismo que nunca verifica.

Eso no significa que estas herramientas sean inútiles. Su utilidad tiene una forma específica: son eficaces para resumir, organizar, reformular y asistir en tareas que implican manejar grandes volúmenes de texto. Donde muestran sus límites es en cualquier tarea que requiera verificar hechos, razonar sobre datos concretos o distinguir entre lo que es cierto y lo que suena cierto.

Qué pasa detrás de las “alucinaciones”

Ese estudio, las citas inexistentes detectadas de mayo de 2026 no aparecieron concentradas en unos pocos trabajos dudosos: estaban repartidas en miles de publicaciones, con mayor densidad en las áreas donde la inteligencia artificial creció más rápido. Los sistemas de revisión académica —tanto de versiones preliminares como de revistas con evaluación por especialistas externos— no las detectaron.

Las alucinaciones no son fallas técnicas aisladas, son problemas en los datos de entrenamiento, limitaciones de diseño y fallas en el proceso de generación de texto; forman parte de la arquitectura de los modelos y están presentes incluso en los sistemas más avanzados del mercado. Dicho esto, la misma arquitectura que produce esos errores es la que permite que estos sistemas sean extraordinariamente útiles para otras tareas.

Qué puede hacer bien, y dónde necesita supervisión

Los modelos de lenguaje pueden resumir documentos extensos en segundos, reorganizar información dispersa, generar borradores, traducir, sugerir estructuras y asistir en procesos que antes requerían horas. En entornos donde la velocidad y la organización importan, como la generación de ideas, la redacción de primeras versiones o la síntesis de textos ya verificados, su rendimiento es alto y su aporte, concreto.

En salud, derecho, educación, periodismo e investigación científica, la herramienta también tiene un lugar: puede ayudar a organizar bibliografía, generar resúmenes de documentos largos o asistir en la redacción de informes. Lo que cambia no es si se puede usar, sino cómo.

En esos campos, el factor determinante no es si se usa la herramienta, sino cómo se integra al proceso. Una investigación publicada en 2026 en la revista AI and Ethics sobre supervisión humana en sistemas de inteligencia artificial concluyó que la verificación es más efectiva cuando se diseña como parte del flujo de trabajo y no como un paso opcional al final.

En la práctica, eso significa que el periodista confirma los datos antes de publicar, el médico cruza la información con la evidencia clínica disponible y el abogado verifica la jurisprudencia citada. La herramienta asiste; el criterio profesional valida. Ese modelo —al que la literatura especializada llama colaboración híbrida— aparece como el más eficaz en distintos contextos de alta exigencia.

Un estudio publicado en agosto de 2026 por la Escuela Kennedy de Harvard, basado en entrevistas con 29 verificadores profesionales de distintos países, encontró que la inteligencia artificial es vista como una herramienta de apoyo valiosa para tareas de escala y velocidad, pero que la validación final de hechos complejos o sensibles sigue requiriendo juicio humano.