Cuando los empleados deben rendir cuentas por decisiones generadas por IA

De HBR.org

Las organizaciones están incorporando rápidamente la inteligencia artificial en decisiones que antes se consideraban dominio exclusivo de los humanos expertos--desde la contratación y los préstamos hasta la atención médica y la administración pública--. Sin embargo, lo que a menudo se pasa por alto es lo que ocurre con los empleados, cuando se espera que los trabajadores comuniquen, justifiquen y defiendan las decisiones generadas por la IA que ellos no tomaron y que con frecuencia no comprenden del todo.

Nuestra investigación explora ese aspecto poco analizado de la implementación de la IA. A partir de un estudio de campo de varios años en el sector bancario, de reclutamiento y de biotecnología, descubrimos que los empleados rara vez comparten los resultados de la IA con los clientes, gerentes o colegas tal y como son. Por el contrario, los reinterpretan, reformulan y a veces incluso los ocultan para proteger su rol profesional y su credibilidad. La forma en que responden depende en gran medida de ante quién deben rendir cuentas y a quién deben convencer.

Comprender estas respuestas es fundamental, ya que determinan si las decisiones de la IA son aceptadas, cuestionadas o socavadas silenciosamente dentro de las organizaciones. Nuestra investigación identifica formas divergentes en que los empleados responden cuando se les pide que expliquen las decisiones generadas por la IA y señala mejores maneras en que las empresas pueden manejar los riesgos.

A continuación, te explicamos cómo impulsar una mejor toma de decisiones con la IA.

Crear oportunidades de aprendizaje entre los empleados y los clientes.

Las respuestas más productivas surgieron cuando los empleados pudieron aprender continuamente de las personas a quienes tenían que explicar las decisiones generadas por la IA.

Los reclutadores de una empresa global de bienes de consumo que estudiamos entre 2018 y 2022 mejoraron los resultados de la IA al responder las preguntas y a las críticas de los gerentes de contratación. En una empresa de biotecnología que estudiamos de 2021 a 2023, donde una máquina de clasificación basada en IA clasificaba y separaba automáticamente las semillas por calidad; los expertos en semillas aprendieron qué interpretaciones ayudaban a los gerentes de la cadena de suministro a tomar mejores decisiones operativas. En contraste, los agentes de crédito de un gran banco alemán al que seguimos durante seis años (de 2019 a 2025) rara vez tuvieron la oportunidad de aprender de sus clientes a través de intercambios puntuales. Los clientes que encontraban las decisiones confusas o insatisfactorias a menudo simplemente se marchaban, dejando a los agentes con poca retroalimentación y pocas oportunidades para mejorar el enfoque.

Por lo tanto, los líderes deben crear oportunidades constantes de diálogo entre los empleados y las personas a las que rinden cuentas, ya sean colegas, clientes internos o clientes externos. Los talleres recurrentes, las sesiones de revisión, los foros de retroalimentación de los clientes y las reuniones interfuncionales pueden brindar oportunidades sistemáticas para que los empleados aprendan cómo pueden mejorar las explicaciones con el tiempo.

Redefinir la experiencia en torno a la interpretación

Cuando la IA se hace cargo de decisiones clave, los empleados suelen perder la actividad a través de la cual tradicionalmente demostraban su pericia. Por lo tanto, las organizaciones deben ayudar a los empleados a desarrollar nuevas formas de aportar valor con la IA, lo que a menudo implica redefinir en primer lugar lo que se considera como "trabajo valioso".

Por lo tanto, los líderes deben crear procesos organizacionales que cultiven y reconozcan la experiencia interpretativa. Pueden establecer espacios de aprendizaje para ayudar a los empleados a desarrollar y compartir su experiencia. Al mismo tiempo, las organizaciones pueden reconocer y recompensar explícitamente el trabajo de interpretar, mejorar y explicar las decisiones generadas por la IA mediante la actualización de las descripciones de puestos, las evaluaciones de desempeño y los criterios de promoción. Esto permite a los empleados desarrollar nuevos roles que sigan siendo valiosos a medida que se expande la toma de decisiones impulsada por la IA.

Mantener un compromiso crítico con las decisiones de la IA

Una última lección es que la rendición de cuentas se vuelve problemática cuando se espera que los empleados defiendan las decisiones de la IA sin poder cuestionarlas.

Por lo tanto, los líderes deben hacer que el análisis crítico de la IA sea una parte esperada del trabajo, especialmente en entornos de alto riesgo. Pueden involucrar a los empleados en el desarrollo y la evaluación de modelos, así como crear normas, procesos y rutinas en las que se espere de los empleados --y se les recompense-- que cuestionen las decisiones que parezcan difíciles de justificar o inconsistentes con su experiencia.