Cómo diseñar sistemas agénticos en torno a las reglas implícitas que rigen tu empresa

De HBR.org

Existe una capa oculta de trabajo organizacional que los humanos han realizado en silencio durante mucho tiempo y que los agentes de inteligencia artificial ahora ponen de manifiesto al no estar presente. He pasado dos décadas estudiando las organizaciones de ventas y servicios: cómo las empresas asignan las tareas de primera línea, diseñan incentivos y confían en el juicio humano en la interfaz con el cliente.

Toda organización cuenta con dos sistemas operativos. El primero se encuentra en el manual de procedimientos. Incluye flujos de trabajo documentados, políticas escritas, criterios formales y líneas jerárquicas. Cuando se configura un agente de IA, esto es lo que recibe. El segundo es el que realmente hace funcionar el lugar: la organización implícita --el sistema no escrito de conocimiento, motivación y juicio que permite que los procesos formales funcionen--. La organización documentada les dice a los agentes qué hacer; la organización implícita les dice a las personas en qué se deben fijar, qué les debe importar y cuándo deben hacer una pausa.

La sustitución oculta

Un agente de IA conectado a tus sistemas puede acceder al instante a políticas documentadas, historiales de transacciones y datos de clientes. Esto elimina las asimetrías de información que a los humanos les lleva meses superar. Sin embargo, esto solo aplica a lo que se ha documentado y se puede recuperar. El conocimiento tácito, la alineación motivacional y la discreción profesional que tienen los humanos no se encuentran en ninguna base de datos. Además, los agentes operan a la velocidad de una máquina, por lo que los errores se acumulan antes de que los supervisores puedan reaccionar y no pueden asimilar normas no escritas: cada expectativa debe especificarse de manera explícita.

Cuando implementas este tipo de actor, la organización implícita no desaparece. La coordinación, la motivación y la autocontención que los humanos antes proporcionaban de manera invisible ahora deben proporcionarse de manera deliberada. Ese es tanto el reto como la oportunidad: por primera vez, las organizaciones pueden ver la lógica operativa que siempre estuvo ahí pero nunca se documentó y diseñar en torno a ella de manera explícita.

Diseñar a partir de la organización real

¿Cómo empiezas a darte cuenta de las reglas no escritas de tu organización --esas que los agentes de IA necesitan entender? Comienza con estos cuatro pasos:

Traza un mapa de la organización real antes de rediseñarla. Hazles las tres preguntas a las personas que desempeñan ese rol: ¿Qué identifican que no está en los datos? ¿Qué les importa más allá de la descripción del puesto? ¿Cuándo solemos reducir el ritmo? La brecha entre sus respuestas y el proceso documentado es tu especificación.

Diseña para agentes que no se detienen por su cuenta. Incorpora la vacilación de manera deliberada --umbrales de confianza, detección de anomalías, desencadenantes de escalamiento--, pero reconoce que esto solo cubre los riesgos que has anticipado. Por eso la supervisión humana es una característica permanente del diseño, no una concesión temporal.

Controla el sistema, no solo a los agentes. Asigna la responsabilidad operativa de lo que los agentes producen colectivamente; supervisa los resultados de los que ningún agente es responsable en particular y mantente atento a los efectos acumulativos a velocidad de máquina. Realiza revisiones humanas de manera selectiva: dirige a los revisores hacia los casos en los que la confianza del agente es más débil, pero mantén suficientes casos normales en el flujo para que conserven el sentido de lo que es normal.

Protege el campo de entrenamiento. Crea rotaciones de "equipo rojo" que encarguen al personal junior la tarea de contrarrestar las decisiones de la IA. Este acompañamiento estructurado puede reemplazar el trabajo rutinario por un aprendizaje observacional de alta densidad. El mecanismo importa menos que el reconocimiento de que el aprendizaje ahora debe diseñarse deliberadamente. El criterio de los expertos que tu empresa necesitará dentro de 10 años se está forjando --o no se está forjando-- según lo que haga hoy tu personal junior.

+++

Las empresas que triunfen con la IA agentiva no serán aquellas cuyos agentes lo vean todo. Serán las que utilicen el despliegue de agentes como un rayo X, viendo lo que sus agentes no pueden ver y rediseñando las organizaciones en función de lo que descubran.