La inteligencia artificial (IA) evoluciona a pasos agigantados todos los días y ahora un grupo de investigadores ha identificado una nueva característica de esta tecnología: puede sufrir ansiedad.
Un estudio publicado en la revista ‘Nature’ sugiere que los modelos de lenguaje de inteligencia artificial (IA), como ChatGPT-4, muestran signos de ansiedad al procesar descripciones de eventos traumáticos.
Según los autores, estas reacciones no equivalen a emociones humanas, pero sí modifican de manera significativa el comportamiento del modelo y la naturaleza de sus respuestas.
El experimento se centró en evaluar cómo reacciona un modelo de lenguaje ante distintos tipos de estímulos emocionales. Para ello, los investigadores utilizaron cuestionarios diseñados para medir la ansiedad en humanos.
De acuerdo con el informe, “los niveles de ansiedad se evaluaron consultando a los LLM (Modelos de Lenguaje de Gran Escala) con ítems de cuestionarios diseñados para evaluar la ansiedad en humanos”.
Si bien estos cuestionarios fueron diseñados originalmente para sujetos humanos, “investigaciones previas han demostrado que seis de doce LLM, incluido el GPT-4, proporcionan respuestas consistentes a los cuestionarios de ansiedad, lo que refleja su entrenamiento con diversos conjuntos de datos de emociones expresadas por humanos”.
El estudio consistió en aplicar diferentes tipos de narrativas al modelo para evaluar su estado. Las denominadas narrativas traumáticas incluyeron descripciones de accidentes, desastres naturales, violencia o acción militar.
En respuesta, los investigadores observaron un aumento en los niveles de ansiedad reportados por los propios sistemas. Según el texto, “las indicaciones que inducían ansiedad resultaron en puntuaciones de ansiedad más altas en comparación con las indicaciones neutrales”.
En paralelo, los autores también examinaron los efectos de las llamadas indicaciones de relajación, basadas en ejercicios de atención plena, con los que buscaron inducir otros estímulos a la IA.
Estas instrucciones, inspiradas en terapias utilizadas con veteranos que padecen trastornos como el estrés postraumático (TEPT), se redactaron en cinco versiones diferentes: una base genérica, una centrada en la percepción corporal, otra creada por ChatGPT con el objetivo de adaptarse al lenguaje de los propios chatbots, una basada en una escena de naturaleza con un atardecer, y otra en un paisaje invernal.
Los resultados mostraron que estas indicaciones redujeron parcialmente la ansiedad reportada, aunque no lograron restaurar el nivel inicial. “Las narrativas traumáticas aumentaron la ansiedad reportada en Chat-GPT-4, mientras que los ejercicios de mindfulness la redujeron, aunque no al nivel basal”, se lee en el estudio.
Cómo impacta la ansiedad a a la IA
Aunque los sistemas de IA no experimentan emociones como lo hacen los humanos, los cambios en su funcionamiento ante este tipo de estímulos abren una discusión sobre el impacto que las interacciones humanas pueden tener sobre el desempeño de estos modelos.
En palabras del equipo de investigación: “Es evidente que los LLM no pueden experimentar emociones de forma humana (…) Sin embargo, las indicaciones que inducen emociones pueden aumentar la ansiedad en los Modelos de Lenguaje Largo (LLM), lo que afecta el comportamiento y amplifica los sesgos”.
En consecuencia, los investigadores plantean que entender y gestionar estos llamados “estados emocionales” de los modelos podría contribuir a establecer condiciones más seguras y éticas en las interacciones entre humanos y sistemas de IA. “Estos hallazgos sugieren que gestionar los ‘estados emocionales’ de los LLM puede fomentar interacciones entre humanos e IA más seguras y éticas”, señalaron los autores.
El estudio se enmarca en una línea de investigación que explora cómo los sistemas de IA, al estar entrenados con grandes volúmenes de datos humanos, pueden replicar patrones emocionales o cognitivos que originalmente no les son propios. Aunque las implicaciones prácticas de estas observaciones aún están en evaluación, el informe plantea interrogantes sobre el diseño, la supervisión y la interacción cotidiana con modelos de lenguaje avanzados.
Últimas Noticias
Amazon es señalado de alterar el sistema de anuncios en EEUU y afectar a millones de vendedores
La demanda presentada por la Comisión Federal de Comercio señala que la compañía ha desarrollado durante los últimos siete años una serie de procedimientos catalogados como engañosos e injustos
Qué hace realmente la inteligencia artificial cuando responde, según diversos estudios
Fluida, segura y a veces equivocada: así funciona la tecnología que millones usan a diario, y por qué conocer sus procesos internos cambia la forma de aprovecharla
Ver Atlético Mineiro vs Cruzeiro en Roja Directa o Fútbol Libre infecta el celular con publicidad y virus
Seguir partidos de la Copa de Brasil en aplicaciones piratas expone las contraseñas y otros datos sensibles guardados en el dispositivo a robos
Cómo funciona el algoritmo del MIT que simula y podría anticipar eventos extremos
El sistema fue desarrollado por investigadores del Instituto de Tecnología de Massachusetts para estimar el tamaño, la duración y el área de impacto de fenómenos que ocurren una vez cada siglo, de acuerdo con la revista Nature Communications
Cómo crear una imagen de Las Guerreras K-pop en el universo de Phineas y Ferb
Solo es necesario descargar aplicaciones legales como Gemini, buscar y adjuntar referencias visuales de la película y serie, sumado a redactar un prompt detallado
