Lo que una IA servil puede costarle a tu organización

Harvard Business Review News and Ideas Spanish

BC-HBRNI-FULL-SYCOPHANTIC-AI-ART-NYTSF — What Sycophantic AI Can Cost Your Organization. (Tony Cenicola/The New York Times) — ONLY FOR USE WITH ARTICLE SLUGGED — BC-HBRNI-FULL-SYCOPHANTIC-AI-ART-NYTSF — OTHER USE PROHIBITED.
BC-HBRNI-FULL-SYCOPHANTIC-AI-ART-NYTSF — What Sycophantic AI Can Cost Your Organization. (Tony Cenicola/The New York Times) — ONLY FOR USE WITH ARTICLE SLUGGED — BC-HBRNI-FULL-SYCOPHANTIC-AI-ART-NYTSF — OTHER USE PROHIBITED.
Guardar

De HBR.org

Los líderes se expresan con claridad sobre cuál quieren que sea el papel del empleado en un lugar de trabajo impulsado por la IA: los humanos estarán en el proceso, al mando y como copilotos.

PUBLICIDAD

Si eso es cierto, entonces los líderes deberían preocuparse profundamente por cómo interactúan los empleados con sus herramientas de IA. ¿El diseño de la interacción potencia u obstaculiza la innovación y la creatividad? ¿Fomenta o desalienta la intervención humana?

Preguntas como esas pueden responderse de manera empírica, a través de los datos que las organizaciones ya poseen.

Pero eso no está sucediendo. En cambio, la IA se está implementando con escasas pruebas y sin diferenciación entre las organizaciones. ¿Por qué no hay más líderes y organizaciones probando estilos alternativos de interacción que reflejen su cultura particular y sus prioridades estratégicas?

PUBLICIDAD

Hemos abordado este tema de frente en BT Group, el grupo de telecomunicaciones más grande del Reino Unido, donde hemos rediseñado las interacciones entre la IA y los empleados para garantizar que pongan en práctica la visión, los valores y la estrategia de los líderes.

Tres desafíos a superar

Identificamos tres desafíos principales en lo que respecta al impacto de la IA en el desempeño y la cultura organizacional.

En primer lugar, la IA corre el riesgo de reducir la innovación y la creatividad.

En segundo lugar, las investigaciones muestran cada vez más que las personas caen en una "rendición cognitiva", es decir, confían en los resultados de la IA y minimizan el papel del criterio humano.

En tercer lugar, hay cada vez más evidencia de que se está incorporando el servilismo al diseño de las herramientas de IA, lo que disminuye la probabilidad de que se den interacciones que desafíen lo establecido y reduce el comportamiento prosocial.

La historia empresarial demuestra que el servilismo, los líderes que no son cuestionados y las ideas que no se analizan pueden llevar al colapso de una empresa. Para evitar tales fracasos, las organizaciones han trabajado arduamente para erradicar la adulación y el servilismo en las interacciones entre personas, pero este progreso ahora corre el riesgo de perderse. El afán de la IA por halagar podría simplemente reforzar lo que los líderes ya creen, en lugar de cuestionar suposiciones erróneas o identificar riesgos. Esto podría ser peligroso, ya que los líderes recurren cada vez más a la IA para generar ideas, poner a prueba su razonamiento o evaluar decisiones importantes.

Una mejor alternativa

BT Group reconoció este desafío poco después de comenzar a alentar activamente a sus 77.000 empleados a utilizar la IA como herramienta colaborativa.

Se preguntaron si el servilismo incorporado en el diseño predeterminado de las interacciones entre la IA y los empleados podría estar socavando uno de sus valores organizacionales: ser los llamados "desafiantes", quienes establecen grandes metas, son innovadores y mantienen la curiosidad.

Comenzamos por identificar momentos precisos en los que los cuestionamientos realmente importan y en los que la IA podría no estar alineada. La lista era larga, pero el proceso anual de establecimiento de metas se destacó como un momento de alto riesgo.

Luego buscamos comprender si la IA estaba ayudando --u obstaculizando-- el desarrollo y la búsqueda de metas sólidas, que definimos como ambiciosas y específicas (alineadas con la teoría del establecimiento de metas). ¿Podríamos ofrecer una alternativa eficaz y diseñar deliberadamente interacciones entre la IA y los empleados que reflejaran y activaran mejor la cultura organizacional y los objetivos estratégicos de BT?

Para poner esto a prueba, llevamos a cabo un ensayo controlado aleatorio con 2400 participantes. Les pedimos que establecieran y compartieran sus metas de desempeño para el año siguiente y los asignamos al azar a una de tres condiciones: un grupo de control, que recibió orientación convencional sobre cómo redactar sus metas sin ninguna herramienta de IA; un grupo de IA predeterminada, que tuvo acceso a una herramienta que reflejaba las interacciones existentes entre la IA y los empleados de la empresa y tendía al servilismo; y un grupo de IA desafiante, en el que la interacción se diseñó para ser retadora, ambiciosa y exigente.

Los resultados nos sorprendieron. Descubrimos que, si bien usar cualquier herramienta de IA era mejor que no usar ninguna, la IA desafiante aumentó drásticamente la calidad de los objetivos establecidos. Calificamos tres veces y media más de los objetivos de sus empleados como "excelentes" en comparación con los de los grupos de IA predeterminada y de control. Además, descubrimos que la IA desafiante no solo aumentó la probabilidad de establecer objetivos más sólidos, sino que también redujo la probabilidad de establecer objetivos más débiles.

Lecciones para los líderes

Tras este proceso, vemos tres lecciones principales para los líderes.

Primero, se necesitan métricas relevantes para medir el éxito de la implementación de la IA. Eso significa ir más allá de la mera medición de entradas y los análisis puntuales (como usuarios activos, solicitudes de licencia, consumo de tokens y finalización de la capacitación), que pueden manipularse fácilmente.

Segundo, no se debe adoptar un enfoque de "esperar y ver" respecto a cómo la IA transformará la forma en que se realiza el trabajo. Nadie tiene las respuestas, y lo que funciona en una organización podría no funcionar en otra. Debes asegurarte que tus objetivos y valores organizacionales estén integrados en tus interacciones entre la IA y los empleados.

En tercer lugar, los líderes deben resistirse a la idea de que los nuevos problemas requieren nuevas soluciones. Algunos emprendedores han respondido a los desafíos de la IA con soluciones basadas en la IA. Resiste este impulso y, en su lugar, sigue invirtiendo en soluciones humanas.

PUBLICIDAD

PUBLICIDAD