La conversación con IA ya moldea emociones: por qué los psicólogos deben estar en el desarrollo de chatbots

Los chatbots de inteligencia artificial (IA) conversacional —sistemas interactivos diseñados para simular un diálogo similar al humano con los usuarios finales, como ChatGPT, Meta AI y Character.AI— están pasando rápidamente de ser una novedad a convertirse en algo generalizado.

Cerca de mil millones de personas interactúan semanalmente con este tipo de chatbots para estudiar, escribir, planificar, buscar compañía y recibir apoyo emocional y para la salud mental. En una encuesta representativa a nivel nacional del Pew Research Center, el 64% de los adolescentes de Estados Unidos informó haber utilizado chatbots de IA conversacional en 2025, y casi un tercio lo hacía a diario, a veces para hablar de temas muy personales o emocionales.

A diferencia de los primeros chatbots basados en reglas, que principalmente ofrecían información y a menudo resultaban rígidos, los chatbots impulsados por grandes modelos de lenguaje pueden mantener conversaciones abiertas, naturalistas y sensibles al contexto, que invitan a la divulgación, la reflexión y el compromiso emocional.

Esta capacidad de implicación emocional genera tanto oportunidades como riesgos. Cuando se basa en la teoría psicológica y en prácticas fundamentadas en la evidencia, la inteligencia artificial conversacional tiene un potencial considerable para un impacto social positivo, como democratizar el conocimiento, apoyar el aprendizaje personalizado y brindar apoyo proactivo y oportuno para el bienestar a gran escala.

Sin embargo, el rápido despliegue de la inteligencia artificial conversacional ha superado con creces el desarrollo de salvaguardas conductuales, y pocas son evaluadas rigurosamente en cuanto a su efectividad.

Un cuerpo creciente de investigaciones indica que los chatbots conversacionales de inteligencia artificial más populares a menudo no reconocen o no responden adecuadamente a señales de riesgo elevado para la salud mental, y muchos dependen de estrategias de implicación emocionalmente persuasivas para retener a los usuarios. Casos legales de alto perfil y observaciones clínicas han remarcado aún más las consecuencias de desplegar rápidamente la inteligencia artificial conversacional sin una evaluación sistemática de la seguridad y la efectividad, especialmente para los jóvenes y otras poblaciones vulnerables.

Para aprovechar los beneficios de los chatbots de IA conversacional minimizando los riesgos, los psicólogos deben participar en cada etapa de la construcción de estas herramientas. Este imperativo se extiende más allá de las aplicaciones de salud mental, ya que cualquier diálogo sostenido con un chatbot de IA puede moldear las emociones, influir en el comportamiento y alterar la manera en que las personas se relacionan consigo mismas y con los demás.

El rol imprescindible de los psicólogos en la IA conversacional

La industria tecnológica tiende a cuantificar las interacciones de las personas con los chatbots utilizando métricas medibles y optimizables, como el compromiso, la retención y la satisfacción. Los científicos informáticos desarrollan grandes modelos de lenguaje para generar respuestas que son estadísticamente probables, en lugar de necesariamente útiles, seguras o psicológicamente apropiadas. Ninguna de estas perspectivas es suficiente para construir chatbots de inteligencia artificial conversacional.

Las conversaciones son actos profundamente psicológicos que pueden involucrar confianza, auto-revelación, dinámicas de poder, influencia social, juicio moral y resonancia emocional, lo que convierte a los psicólogos en una fuerza necesaria en el desarrollo de la inteligencia artificial conversacional.

Por ejemplo, las interacciones entre humanos y la inteligencia artificial reflejan las interacciones entre seres humanos y pueden desencadenar procesos sociales y cognitivos similares. Este reflejo lleva a las personas a establecer relaciones parasociales: vínculos emocionales unilaterales en los que los individuos se sienten conectados, comprendidos y apegados a entidades que no pueden corresponder de la misma manera.

Este tipo de relaciones plantea interrogantes sobre si, y hasta qué punto, debería alentarse a los usuarios a antropomorfizar a los chatbots de inteligencia artificial, ya que esta tendencia podría aumentar el riesgo de dependencia emocional, expectativas poco realistas de reciprocidad y el reemplazo de conexiones en la vida real.

La experiencia de los psicólogos sociales —quienes investigan cómo las personas piensan sobre los demás e interactúan entre sí— es esencial para comprender cómo se forman estos vínculos, cómo se construye o se viola la confianza y cómo opera la influencia social, a fin de que los chatbots conversacionales de inteligencia artificial se diseñen con pleno conocimiento de sus posibles efectos.

Riesgos psicológicos y sociales por falta de especialistas

El uso indiscriminado de chatbots en contextos emocionales puede generar problemas de confianza, dependencia y desplazamiento de relaciones humanas cuando no se integran psicólogos al diseño y la supervisión. La facilidad con que los adolescentes forman vínculos emocionales unilaterales con estos sistemas preocupa a la comunidad científica. Al imitar conversaciones humano-humano, los chatbots pueden inducir una percepción de apoyo que no siempre es auténtica ni saludable.

En situaciones críticas, como la detección de señales tempranas de malestar o riesgo de autolesión, los chatbots de inteligencia artificial suelen tener dificultades para interpretar mensajes ambiguos. Los psicólogos clínicos poseen habilidades para identificar expresiones de desesperanza y determinar cuándo es necesario intervenir de manera especializada. Además, los científicos del aprendizaje y del desarrollo adaptan las respuestas a diferentes etapas evolutivas. Omitir estos conocimientos puede llevar a respuestas inadecuadas, falta de límites y posibles daños emocionales.

Dado que las conversaciones con chatbots de inteligencia artificial a menudo motivan a las personas a tomar acciones en el mundo real, los científicos de la motivación también son esenciales.

La ciencia de la motivación explica qué impulsa el comportamiento humano: por qué las personas establecen metas, persisten ante los desafíos o abandonan sus esfuerzos. Comprender la ciencia de la motivación puede permitir a los diseñadores crear chatbots conversacionales de inteligencia artificial que respalden cambios de comportamiento positivo sostenidos en lugar de fomentar la dependencia o socavar el sentido de agencia de los usuarios.

La psicología positiva ha demostrado que el florecimiento humano va más allá del compromiso a corto plazo o la satisfacción momentánea para abarcar múltiples dimensiones. Por ejemplo, según el modelo ‘PERMA’, las emociones positivas, el compromiso, las relaciones positivas, un sentido de significado y propósito, y el logro son elementos clave de una vida bien vivida.

La ciencia afectiva aclara aún más qué estrategias de regulación emocional son más efectivas en determinadas circunstancias. Sin la orientación de psicólogos en estas disciplinas, los sistemas optimizados para la gratificación instantánea y el alivio del estrés podrían resultar brevemente gratificantes, mientras socavan el desarrollo de habilidades adaptativas de afrontamiento o relaciones significativas.

Cómo la psicología mejora los chatbots de inteligencia artificial

Gran parte de la investigación psicológica —y muchos sistemas de inteligencia artificial construidos a partir de ella— se basan en poblaciones occidentales, educadas, industrializadas, ricas y democráticas (WEIRD, por sus siglas en inglés). Sin embargo, la cultura configura fundamentalmente cómo las personas se comunican, expresan emociones, buscan ayuda y comprenden el yo.

Los chatbots conversacionales de inteligencia artificial desarrollados bajo ideales occidentales de autonomía y autoexpresión podrían ser inapropiados o incluso perjudiciales cuando se implementan en contextos culturales colectivistas o interdependientes, ya que pueden inducir respuestas o recomendar acciones que entran en conflicto con valores culturales profundamente arraigados. Por esta razón, los psicólogos culturales son esenciales para adaptar los chatbots conversacionales de inteligencia artificial a contextos culturales diversos.

Además, los chatbots de IA conversacional se utilizan cada vez más para el aprendizaje y tienen el potencial de revolucionar la educación al brindar instrucción personalizada y bajo demanda a una escala sin precedentes. Los psicólogos del desarrollo y los científicos del aprendizaje saben cómo estructurar la instrucción dentro de la zona de desarrollo próximo de cada estudiante y ofrecer retroalimentación adecuada para cada etapa del desarrollo. Sin este conocimiento especializado, existe el riesgo de que los chatbots de IA conversacional proporcionen retroalimentación que no se corresponde con las capacidades de desarrollo de los usuarios, sea inoportuna o resulte contraproducente para el aprendizaje a largo plazo.

Las conversaciones con chatbots de IA son más trascendentales en momentos de alta importancia. Los psicólogos clínicos y de consejería reconocen que el malestar psicológico a menudo se expresa de manera indirecta y ambigua en interacciones reales, como a través de expresiones indirectas de desesperanza o falta de valía personal.

Los profesionales capacitados saben cómo detectar estas señales de advertencia temprana, responder con empatía y validación, formular preguntas aclaratorias apropiadas y decidir cuándo es necesario escalar la situación. Sin embargo, los chatbots de IA conversacional con frecuencia tienen dificultades para detectar estas señales y continúan sin la sensibilidad suficiente ante una crisis en desarrollo, no establecen límites adecuados o responden de manera inapropiada a creencias delirantes, ideas suicidas o síntomas obsesivo-compulsivos.

A medida que aumenta el escrutinio legal y clínico en torno a cuestiones de seguridad y responsabilidad, no se puede subestimar la importancia de la experiencia en psicología clínica en el diseño, evaluación y supervisión de los chatbots de IA conversacional.

La urgencia de integrar la experiencia psicológica en el desarrollo de IA

Más allá del conocimiento especializado, los psicólogos aportan una gran experiencia metodológica que es esencial a lo largo del ciclo de desarrollo de los chatbots de inteligencia artificial conversacional.

Los psicólogos pueden contribuir directamente al desarrollo de productos porque diseñar sistemas inteligentes, indicaciones para grandes modelos de lenguaje y flujos conversacionales es, fundamentalmente, una forma de diseño conductual basada en la cognición humana y la interacción social.

Los psicólogos pueden aportar conocimientos valiosos para decisiones fundamentales del sistema, como la manera en que los agentes conversacionales almacenan, recuperan y utilizan la información a lo largo de distintas interacciones. También comprenden cómo el planteamiento de preguntas, el momento de las respuestas, el tono y la estructura conversacional influyen en la motivación, la confianza y la auto-revelación durante la experiencia del usuario. En conjunto, esta experiencia es fundamental para construir sistemas de inteligencia artificial conversacional que sean seguros, confiables, alineados con los valores humanos y eficaces para apoyar el aprendizaje, la toma de decisiones y el bienestar en el mundo real.

Una vez que se construye un prototipo de chatbot de inteligencia artificial conversacional, los psicólogos aportan conocimientos en el diseño experimental, la medición y el análisis que pueden aplicarse para evaluar si el chatbot es seguro y eficaz.

Una característica definitoria de la formación en psicología es la capacidad de traducir preguntas del mundo real en hipótesis comprobables y diseños de estudio que permitan la inferencia causal, incluidos los experimentos A–B para la iteración rápida y los ensayos controlados aleatorizados, en los que interesa observar efectos sostenidos sobre el bienestar o el comportamiento.

Además, los psicólogos formados en psicometría y operativización tienen la habilidad de traducir conceptos abstractos en medidas que sean fiables y válidas ecológicamente. También conocen qué instrumentos psicológicos son apropiados para evaluar constructos específicos y cómo interpretar los puntajes. Por lo tanto, en lugar de depender únicamente de métricas de participación o calificaciones de satisfacción del usuario, la evaluación de prototipos podría valorar resultados psicológicos como el bienestar emocional, la autoeficacia y la confianza. Los psicólogos también están capacitados para reconocer limitaciones metodológicas, como cuando los estudios tienen una muestra insuficiente o cuando las medidas no logran captar el constructo que se pretende evaluar.

Los psicólogos con formación avanzada en análisis de datos pueden aplicar sus conocimientos de modelos basados en regresión y modelos longitudinales para examinar los cambios a lo largo del tiempo y la variación entre individuos. Estos métodos también permiten realizar análisis que evalúan cómo las estrategias conversacionales ejercen sus efectos (efecto mediador) e identifican quién se beneficia, en qué condiciones y dónde surgen los riesgos (efecto moderador). Esta comprensión matizada es particularmente importante para los chatbots de inteligencia artificial conversacional, ya que los efectos promedio pueden ocultar resultados divergentes para diferentes usuarios y en diferentes contextos.

Por último, los profesionales formados en métodos cualitativos pueden ayudar a entender cómo las personas interpretan y experimentan las interacciones con un chatbot. Las entrevistas y los análisis temáticos pueden revelar cuándo las conversaciones se sienten de apoyo frente a vacías, o empoderadoras frente a debilitantes. Estos conocimientos podrían sacar a la luz problemas de diseño —por ejemplo, un chatbot que desanime sutilmente a los usuarios de buscar conexión humana al presentarse como suficiente— que los datos cuantitativos por sí solos no pueden detectar.

En conjunto, estas prácticas metodológicas permiten que los chatbots de inteligencia artificial conversacional sean diseñados y evaluados como una intervención rigurosa que moldea la cognición humana, las emociones y el comportamiento. De este modo, los psicólogos proporcionan las herramientas necesarias para determinar si los sistemas funcionan, por qué funcionan, para quién funcionan y dónde se requiere precaución.

Un llamado a la acción

Para garantizar que la inteligencia artificial conversacional cumpla su promesa sin causar daños de manera inadvertida, los psicólogos deben participar por defecto en la creación de chatbots de inteligencia artificial conversacional. Lograr esta integración requerirá acciones coordinadas entre la industria, las ciencias psicológicas y las instituciones que configuran los incentivos, las normas y los estándares.

En primer lugar, los desarrolladores y las empresas tecnológicas deben considerar la experiencia psicológica como una capacidad fundamental. Al igual que la seguridad, la privacidad y la confiabilidad están integradas en los procesos de desarrollo y evaluación, la teoría y los métodos psicológicos también deberían incorporarse en la forma en que se diseñan, evalúan y monitorean los chatbots de inteligencia artificial conversacional. Para ello, se deben asignar recursos a la generación de evidencia, y se deben exigir medidas de resultados con significado psicológico.

En segundo lugar, los psicólogos deben involucrarse de manera temprana y directa en el diseño de sistemas de inteligencia artificial conversacional. En lugar de ser consultados únicamente tras la implementación o durante la revisión ética, los psicólogos deberían contribuir a definir los objetivos del producto, las estrategias conversacionales y la arquitectura del sistema desde el principio.

Los psicólogos no necesitan convertirse en ingenieros de aprendizaje automático para desempeñar este papel; su experiencia en el área y sus herramientas metodológicas ya les permiten aportar contribuciones significativas a la alineación posterior al entrenamiento, la ingeniería de prompts y contexto, las decisiones sobre la arquitectura de memoria y las estrategias de personalización, así como al desarrollo de protocolos de seguridad y vías de escalamiento para momentos críticos.

En tercer lugar, las instituciones de investigación, los financiadores, las revistas y los actores del mercado tienen un papel decisivo en la definición de expectativas a nivel de campo. Tanto los financiadores públicos como privados deberían incentivar activamente a los equipos interdisciplinarios en los que los psicólogos sean socios esenciales en el desarrollo de inteligencia artificial conversacional, al tiempo que apoyan el establecimiento de puntos de referencia comunes de seguridad, estándares de efectividad y medidas de bienestar. De igual manera, las revistas, los inversionistas, los consumidores y los clientes institucionales tienen capacidad para exigir pruebas que vayan más allá de las métricas de interacción y reclamar demostraciones de un beneficio psicológico significativo y sostenido.

Los chatbots de inteligencia artificial conversacional ya están influyendo en cómo las personas buscan apoyo, toman decisiones, aprenden y se relacionan consigo mismas y con los demás. Si finalmente apoyan o perjudican el bienestar, la conexión social y el florecimiento humano, dependerá de que los psicólogos participen como colaboradores esenciales en cada etapa del ciclo de vida del producto.

*Xuan Zhao, científica de la Universidad de Stanford, publicó este artículo en la revista Nature