Por qué los mejores sistemas predictivos del mundo generan desconfianza, según la psicología

Un estudio difundido por el Instituto de Investigación Operativa y Ciencias de la Gestión halló que la psicología de las predicciones ayuda a explicar por qué muchas personas prefieren tener razón por completo antes que equivocarse menos. El resultado pone en cuestión un supuesto frecuente de muchos sistemas de pronóstico, herramientas de análisis predictivo y modelos de inteligencia artificial.

A muchas personas les cuesta aceptar hechos que contradicen lo que creen porque, al hacer o evaluar predicciones, valoran más la posibilidad de acertar exactamente que reducir el tamaño del error esperado. Según el Instituto de Investigación Operativa y Ciencias de la Gestión, esa diferencia se vuelve especialmente intensa cuando alguien pasa de estar completamente en lo cierto a estar apenas equivocado.

El estudio se publicó en Management Science y lo firmó Berkeley J. Dietvorst, de la Escuela de Negocios Booth de la Universidad de Chicago. Según el Instituto, la investigación muestra que la gente no siempre juzga una predicción con el mismo criterio que usan los modelos estadísticos. “Para muchas personas, el objetivo de una predicción es tener razón, no solo minimizar el error promedio”, dijo Dietvorst en la información difundida por el Instituto.

Qué encontró el estudio sobre el error y la satisfacción

Dietvorst analizó 16 estudios con distintas tareas de predicción y diseños experimentales. En conjunto, los participantes mostraron un patrón que los investigadores describen como sensibilidad decreciente al error de predicción.

En varios experimentos, los participantes vieron distribuciones de probabilidad y debieron formular predicciones. Con frecuencia eligieron resultados que aumentaban la posibilidad de acertar de forma exacta, aunque otras opciones redujeran mejor el error esperado.

La investigación también examinó reacciones emocionales ante los fallos. La satisfacción cayó con fuerza cuando una persona pasó de acertar por completo a quedar apenas equivocada.

En cambio, aumentos mayores del error provocaron descensos mucho menores. Según el Instituto de Investigación Operativa y Ciencias de la Gestión, ese patrón sugiere que, una vez que una predicción ya es errónea, los fallos adicionales importan menos de lo que suponen muchos modelos de pronóstico.

Por qué este sesgo importa para la inteligencia artificial y los pronósticos

El hallazgo va más allá de los pronósticos convencionales. Muchos sistemas de inteligencia artificial, motores de recomendación, modelos de negocio y tecnologías de apoyo a la toma de decisiones se diseñan para minimizar el error promedio, pero los usuarios pueden evaluarlos con otra lógica.

“Los resultados resaltan la importancia de comprender los objetivos humanos antes de diseñar sistemas predictivos”, afirmó Dietvorst, según el Instituto. “Si los modelos se optimizan para metas que difieren de lo que las personas valoran, la adopción y la confianza pueden verse afectadas”.

El estudio, publicado en Management Science en 2025, también cuestiona una idea extendida entre especialistas y organizaciones. Si las personas premian sobre todo el acierto exacto, un sistema ajustado para equivocarse menos en promedio puede no parecerles satisfactorio.

Este fenómeno puede observarse en distintos ámbitos donde la tecnología interactúa con las decisiones humanas. Por ejemplo, en el sector financiero, los usuarios suelen desconfiar de recomendaciones automatizadas si no coinciden de manera exacta con sus expectativas, aun cuando los sistemas demuestren un bajo margen de error general.

Algo similar sucede en aplicaciones de salud digital, donde la percepción de exactitud influye en la aceptación de diagnósticos o sugerencias médicas generadas por algoritmos.

Este desacople entre la optimización técnica y la experiencia subjetiva puede generar frustración, disminuir la confianza en las herramientas y limitar su adopción masiva. Para los desarrolladores, comprender estas diferencias resulta clave a la hora de diseñar interfaces y comunicar los alcances y limitaciones de los modelos predictivos, con el objetivo de alinear mejor las soluciones tecnológicas con las expectativas reales de los usuarios.