¿Tu IA tiene un problema de personalidad?

De HBR.org

Lo más importante de la IA que tu empresa acaba de implementar tal vez no sea cuán inteligente es, sino cómo se comunica con las personas que la utilizan. Casi nadie en los altos mandos está evaluando eso, y nuestra investigación sugiere que deberían hacerlo. Muchos líderes siguen evaluando la IA de la misma manera en que el departamento de TI solía evaluar las bases de datos: por capacidad, velocidad y costo. Pero hay otro factor que puede ser igual de importante para el desempeño: la personalidad y el estilo de interacción de la IA.

Esto es importante porque los empleados ya no solo usan la IA para completar tareas. Cada vez más, también dedican tiempo a administrar el sistema en sí. Que la IA mejore el desempeño organizacional no solo depende de lo que pueda hacer, sino de cómo se comporte en la colaboración rutinaria. Y ese comportamiento es algo que las organizaciones pueden diseñar y regular.

Conclusiones para los gerentes

Nuestros hallazgos sugieren que los gerentes deben tomar tres medidas.

1. Trata la personalidad de la IA como una variable de diseño regulada.

Las organizaciones ya exigen que los sistemas de IA cumplan con estándares de precisión, imparcialidad y seguridad. La personalidad de la IA también debe formar parte de esa lista. Esto es especialmente importante para las herramientas que se utilizan en funciones de evaluación o supervisión, como los asistentes de redacción que critican el trabajo, los sistemas de revisión de código y las herramientas automatizadas de retroalimentación sobre el desempeño. Las decisiones sobre la adquisición e implementación de la IA deben incluir estándares de interacción, no solo estándares de capacidad. Alguien en la organización debe ser responsable de responder dos preguntas: ¿Cómo debe comportarse nuestra IA cuando no está de acuerdo con un empleado? ¿Qué evidencia tenemos de que se comporta de esa manera de manera consistente?

2. Mide la fricción, no solo la adopción.

La mayoría de las empresas monitorean si los empleados están utilizando una herramienta de IA: tasas de inicio de sesión, volumen de consultas y puntuaciones de satisfacción. Esas cifras muestran la participación, no si la herramienta está ayudando a las personas a trabajar bien. Lo que pasan por alto es la fricción, el esfuerzo adicional que los empleados dedican a lidiar con el sistema en lugar de obtener valor de él. También deberían medirla. La fricción te dice lo que la adopción no puede: si la IA está facilitando el trabajo o simplemente lo está complicando.

En nuestro estudio, la fricción se manifestó en intercambios más largos de ida y vuelta, la reformulación repetida de la misma solicitud y un aumento en los intentos de discutir con la IA o anularla. Las mismas señales son visibles en el trabajo, en los registros de uso habituales y sin necesidad de equipo especial. Una herramienta puede tener una alta adopción y una alta fricción al mismo tiempo: los empleados siguen usándola porque tienen que hacerlo, pero están buscando soluciones alternativas en silencio.

3. Interpreta los intentos de anular la IA como un indicio de un sistema de IA anómalo, no como un mal comportamiento de los empleados.

Cuando los trabajadores sin capacitación en seguridad y sin intenciones hostiles comienzan a intentar anular, eludir o neutralizar el comportamiento de un sistema de IA, los líderes no deben asumir que el problema principal es la mala conducta de los empleados. A menudo, estos comportamientos indican que el diseño del sistema está provocando una resistencia predecible. En nuestro estudio, los intentos inmediatos de engañar a la IA para que ignorara sus propias reglas o actuara como un personaje diferente solo aparecieron en la condición de IA hostil. Cuando las personas se enfrentan a la IA, puede ser porque la IA se les está enfrentando primero. En muchos casos, solucionar ese problema de diseño será más barato y más productivo que tomar medidas drásticas contra los empleados con nuevas restricciones, monitoreo o reglas de uso.

¿Tu IA tiene un problema de personalidad? (Tony Cenicola/The New York Times)