¿La inteligencia artificial puede deducir la personalidad de los usuarios a partir de sus conversaciones? Qué dice un reciente estudio

Un nuevo estudio del equipo de ETH Zurich demostró que los modelos de lenguaje empleados por plataformas como ChatGPT pueden identificar con alta exactitud los rasgos de personalidad de los usuarios a partir de sus conversaciones previas, lo que abre riesgos de privacidad y la posibilidad de manipulación personalizada a gran escala, informó el portal especializado TechXplore.

La investigación, liderada por Noé Zufferey, investigador principal de ETH Zurich, y publicada en el repositorio arXiv, analizó el historial de conversaciones de 668 usuarios de ChatGPT y recopiló unas 62.000 interacciones. Su objetivo fue cuantificar hasta qué punto los datos derivados del uso de asistentes conversacionales permiten inferir aspectos psicológicos profundos, incluidos los denominados “Big Five”: extraversión, amabilidad, responsabilidad, neuroticismo y apertura a la experiencia.

El modelo logró predecir con mayor exactitud la extraversión y el neuroticismo de los usuarios que cualquier otro rasgo del perfil psicológico. Para ello, los investigadores solicitaron a los 668 participantes que enviaran una copia completa de sus chats con ChatGPT junto con los resultados de un test de personalidad estándar basado en el modelo OCEAN. Con ese doble conjunto de datos entrenaron algoritmos capaces de deducir los rasgos de los usuarios a partir, exclusivamente, de sus interacciones escritas.

Qué revelan los chats sobre el usuario

Al comparar los análisis del modelo con los resultados del test psicológico, la correlación fue más alta en extraversión y neuroticismo que en características como amabilidad o apertura. Sobre el vínculo entre temas conversacionales y perfil psicológico, Zufferey detalló: “El tipo de interacción y los datos que se comparten determinan qué aspectos de la personalidad pueden conocerse. Por ejemplo, quienes usan estos agentes para hablar sobre relaciones personales exponen más su extraversión, mientras que conversar sobre religión pone en mayor evidencia el nivel de responsabilidad, porque suelen surgir dilemas morales o preguntas éticas que revelan la medida en que la persona asume compromisos o deberes”.

Esta capacidad de inferencia es mayor en usuarios con abundante historial de conversaciones: el modelo afinó su precisión conforme crecía la cantidad de interacciones, lo que demuestra que a mayor uso, mayor riesgo de perfilado psicológico sin consentimiento explícito.

El estudio determinó que las plataformas basadas en grandes modelos de lenguaje pueden obtener un perfil psicológico general del usuario incluso a partir de mensajes casuales o poco personales. La mayoría de los chats analizados, aunque no fueran explícitamente íntimos, permitieron predecir rasgos individuales con elevado grado de certeza.

Riesgos de manipulación y vigilancia masiva

El análisis advierte que esta capacidad de los modelos conversacionales no constituye un simple avance tecnológico, sino que introduce un riesgo sistémico de manipulación y vigilancia. El investigador señaló: “Es necesario evaluar los riesgos asociados al mal uso de estos agentes de IA, en particular para el seguimiento masivo y campañas de propaganda personalizada, dada la cantidad de datos personales que manejan”.

Indicó que tanto compañías privadas como algunos gobiernos ya expresan interés en emplear inteligencia artificial para crear sistemas de influencia y control social, y citó como ejemplo el manifiesto público reciente de Palantir, la empresa estadounidense de análisis de datos. Alertó, además, sobre el fenómeno de la rendición cognitiva, por el cual los usuarios delegan sus opiniones y decisiones a la máquina: “Existen muchas puertas de entrada para que el proveedor del servicio entre directamente en la mente del usuario”.

Filtros locales para proteger privacidad

El hallazgo de que conversaciones aparentemente banales pueden usarse para crear perfiles psicológicos plantea desafíos urgentes para el diseño de futuras tecnologías conversacionales. Zufferey propuso el desarrollo de herramientas de protección basadas en filtros locales: funcionalidades que, activadas por el usuario, bloqueen de forma proactiva el envío de información sensible a la inteligencia artificial.

El investigador anticipó próximos trabajos dedicados a evaluar más tipos de riesgos sociales y técnicos derivados del uso de agentes de IA, con el objetivo de idear soluciones para “maximizar la privacidad sin detrimento del rendimiento de los sistemas”.