Los equipos más sólidos de agentes de IA se crearán utilizando diferentes modelos

De HBR.org

En general, las grandes empresas aún se encuentran en las primeras etapas de la implementación de la IA agéntica. Están identificando y poniendo a prueba casos de uso mientras capacitan a los trabajadores humanos en habilidades básicas de IA. Sin embargo, las buenas prácticas actuales en el desarrollo de la IA agéntica pueden evitar problemas futuros y reforzar la diversidad de los equipos agénticos emergentes. Estos siete imperativos ayudan a guiar el camino a seguir.

Diversificar la "pila tecnológica" de la IA agéntica: La primera y más importante medida para mejorar la diversidad de la IA agéntica es que las empresas diversifiquen los modelos fundacionales subyacentes, modelos grandes de propósito general que actúan como el cerebro de un sistema de IA agéntica. Entre los ejemplos más destacados de la actualidad se encuentran Claude de Anthropic, GPT de OpenAI, Gemini de Google, Llama de Meta y los modelos abiertos de Mistral. Si bien el modelo fundacional es la pieza más visible, la pila de IA agéntica también incluye otros elementos que son candidatos a la diversificación, como la capa de recuperación, el marco de orquestación que coordina las acciones de los agentes y la capa de evaluación y controles de seguridad que verifica los resultados antes de que lleguen al usuario final.

Enriquecer los datos de entrenamiento agéntico: Más variedad en los datos de entrenamiento agéntico también puede ayudar a mejorar la diversidad de los agentes. Los investigadores han demostrado que el entrenamiento de modelos que utilizan conjuntos de datos psicométricos multidimensionales puede servir para desarrollar agentes que imiten fielmente a los humanos en pruebas de personalidad. Del mismo modo, los agentes de IA podrían entrenarse con conjuntos de datos como la Encuesta Mundial de Valores para reflejar mejor los diferentes valores culturales y las formas de pensar en distintas partes del mundo.

Ajuste fino mediante modelos de lenguaje pequeño: Sin embargo, las empresas no necesitan depender únicamente de los conjuntos de datos y los modelos externos. La mayoría de las empresas transnacionales cuentan con vastas cantidades de datos internos que pueden utilizarse para ajustar los modelos de los agentes con el fin de reflejar la composición de su fuerza laboral.

Entrenar a los agentes mediante la observación de humanos en su puesto de trabajo: Los trabajadores de cualquier organización suelen "aprender las reglas del juego" del trabajo en equipo eficaz observando y emulando a sus colegas. Debido a la capacidad que tienen para aprender continuamente sobre la marcha, los agentes se pueden diseñar para que aprendan estilos de trabajo en equipo de sus colegas humanos en diferentes contextos geográficos y culturales. Los agentes pueden entrenarse a partir de comunicaciones por correo electrónico o transcripciones de reuniones para aprender los principios de cómo plantear desafíos, negociar y alcanzar consensos de manera eficaz. Por supuesto, estos beneficios se magnificarán si la empresa ya cuenta con una fuerza laboral humana diversificada.

Implementar una política de gobernanza de cartera modelo: Así como la ciberseguridad y la diversidad humana se han convertido en temas de la junta directiva, también la diversidad agéntica debe llamar la atención de los directores.

Utilizar el "red-teaming" cultural: Las empresas también pueden poner a prueba a sus agentes mediante el "red-teaming", un término tomado de la ciberseguridad para describir las pruebas de las defensas de seguridad realizadas por expertos humanos o sistemas de IA. OpenAI, por ejemplo, ya recurre a un equipo multidisciplinario de expertos para realizar pruebas de "red-teaming" en sus modelos de lenguaje grande (LLM) en busca de riesgos como sesgos, impactos sociales y sensibilidad cultural.

Crear mercados de talento agéntico: Los principales proveedores de nube y software empresarial ya ofrecen plataformas para la creación y el ajuste fino de agentes de IA. En el futuro, podemos vislumbrar la aparición de mercados de talento agéntico altamente líquidos, similares a las redes nacionales y globales de talento humano, que permitan a las empresas "reclutar" agentes y equipos que reflejen una combinación de roles, nacionalidades, habilidades, tipos de personalidad y antecedentes culturales.