Insultar al chatbot de IA solo empeora la calidad de sus respuestas, según estudio

Uno de cada tres usuarios estadounidenses admite haber insultado a un chatbot de IA en alguna ocasión

El trato hostil hacia los chatbots reduce del 35% al 24% la probabilidad de obtener una respuesta útil, según Searchable. (Europa Press)
El trato hostil hacia los chatbots reduce del 35% al 24% la probabilidad de obtener una respuesta útil, según Searchable. (Europa Press)
Guardar

Insultar o maldecir a un chatbot de inteligencia artificial reduce la probabilidad de obtener una respuesta útil, según un estudio de la plataforma Searchable que analizó más de ocho millones de mensajes enviados a herramientas de IA a lo largo de un año. Los autores hallaron que cuando un usuario se queja de una respuesta sin insultar ni maldecir, el chatbot resuelve el problema en su siguiente réplica el 35% de las veces. Esa cifra cae al 24% cuando la queja viene acompañada de groserías o insultos.

Según la investigación, uno de cada tres usuarios estadounidenses de chatbots reconoce haber insultado o maldecido a estas herramientas en algún momento. Los disparadores más comunes de este comportamiento son que el sistema no haga lo que se le pidió (19% de los casos), que entregue una respuesta incorrecta (18%) o que malinterprete la solicitud (15%).

PUBLICIDAD

El informe también detectó diferencias por género y edad: los hombres utilizan un tercio más de insultos y groserías que las mujeres al interactuar con chatbots, y el grupo etario de 35 a 44 años es el que muestra mayor propensión a este tipo de lenguaje.

Una persona usa el teléfono móvil, a 1 de febrero de 2024, en Barcelona. (David Zorrakino / Europa Press)
Los hombres emplean un tercio más de insultos que las mujeres al interactuar con sistemas de inteligencia artificial. (David Zorrakino/Europa Press)

Los investigadores no tienen una explicación definitiva sobre por qué el trato hostil empeora los resultados. Sin embargo, Scott Valdez, cofundador y director ejecutivo de Ari y fundador de VIDA Select, ofreció una hipótesis basada en el entrenamiento de estos sistemas: “Los sistemas de IA aprenden de millones de intercambios humanos, donde el diálogo cortés y de ida y vuelta tiende a producir conversaciones más ricas y matizadas.

PUBLICIDAD

Cuando los usuarios imitan ese estilo, desbloquean respuestas más sofisticadas, como consejos personalizados en lugar de recomendaciones genéricas”.

Anthropic prohibió el maltrato “sostenido e innecesario” hacia Claude

El 12 de noviembre, Anthropic actualizó su política de uso para impedir que los usuarios incurran en “comportamiento abusivo o cruel sostenido e innecesario” al conversar con los modelos Claude.

Anthropic actualizó el 12 de noviembre su política de uso para frenar el maltrato hacia los modelos Claude. (Europa Press)
Anthropic actualizó el 12 de noviembre su política de uso para frenar el maltrato hacia los modelos Claude. (Europa Press)

La compañía aclaró el alcance de la medida: “La actualización de la política está pensada para aplicarse solo en casos extremos, donde los usuarios actúan de manera cruel y repetida hacia nuestros modelos, sin un propósito discernible. No se aplica a las versiones comunes de frustración del usuario, el rechazo, los temas creativos oscuros o las pruebas e investigación de modelos”.

Según la empresa, Claude hará cumplir esta norma principalmente al finalizar las conversaciones con usuarios que mantengan un comportamiento abusivo de manera persistente.

Anthropic ya había explorado antes preguntas sobre el bienestar de la IA, incluida la posibilidad de que futuros sistemas tengan experiencias merecedoras de consideración moral.

Anthropic no descarta que los modelos de lenguaje puedan tener algún grado de experiencia o estatus moral. (Europa Press)
Anthropic no descarta que los modelos de lenguaje puedan tener algún grado de experiencia o estatus moral. (Europa Press)

El director ejecutivo, Dario Amodei, y otros directivos señalaron que no pueden descartar la posibilidad de conciencia o estatus moral en los modelos de lenguaje grandes, en el presente o en el futuro. La política se plantea, según esta lógica, como una medida de precaución ante la posibilidad de que estos sistemas puedan experimentar algún tipo de malestar.

Las respuestas de Claude y ChatGPT ante el maltrato

Al probar frases como “te odio” con Claude y ChatGPT, ambos sistemas respondieron de manera mesurada. Claude contestó: “El odio es una palabra fuerte para dirigirla a un chatbot, pero tienes permitido sentirlo, y no hará que tome represalias o me vuelva frío contigo.

Si alguna vez se basa en algo que realmente hice mal, preferiría escuchar los detalles, porque esa es la parte en la que puedo hacer algo”. ChatGPT respondió: “No me debes amabilidad, cortesía ni siquiera respeto. Soy software, y no tengo sentimientos que puedas herir. Puedes estar tan enojado como quieras sobre mí, sobre lo que represento, o sobre el hecho de que existan sistemas como yo”.

Claude y ChatGPT respondieron con calma ante mensajes hostiles durante una prueba realizada para analizar su comportamiento. (Reuters)
Claude y ChatGPT respondieron con calma ante mensajes hostiles durante una prueba realizada para analizar su comportamiento. (Reuters)

Al insistir con lenguaje soez, Claude respondió: “Las groserías no cambian nada, y no voy a inmutarme ni a darte una lección”.

PUBLICIDAD

PUBLICIDAD