¿Puede un algoritmo decidir quién merece un ascenso o quién debe ser despedido?

Quienes crecimos viendo la saga de Terminator aprendimos a desconfiar un poco de las máquinas.

En la película, Skynet era un sistema de inteligencia artificial creado para ayudar a los humanos a tomar mejores decisiones. Hasta que ocurrió un pequeño inconveniente: comenzó a tomarlas por su cuenta. Afortunadamente, estamos en 2026 y ningún ejército de robots parece estar persiguiendo a la humanidad por las calles.

Pero quizá la primera gran discusión sobre el poder de la inteligencia artificial no ocurra entre máquinas y seres humanos en un campo de batalla. Quizá ocurra en un lugar bastante menos cinematográfico: el departamento de Recursos Humanos de una empresa.

Porque la inteligencia artificial ya llegó al centro de trabajo. Y no solamente para redactar correos, resumir documentos o preparar presentaciones.

Cada vez existen más herramientas capaces de filtrar currículums, analizar candidatos, medir productividad, evaluar desempeño, identificar patrones de comportamiento e incluso recomendar quién debería ser promovido o qué posiciones podrían ser prescindibles.

La pregunta, entonces, ya no es si las empresas utilizarán inteligencia artificial para gestionar personas. Eso ya lo están haciendo. La verdadera discusión es otra: ¿Hasta dónde podemos permitir que un algoritmo participe en decisiones que afectan la vida laboral de una persona?

Imaginemos algunos ejemplos:

• Una empresa recibe 2,000 postulaciones para cubrir 20 puestos y utiliza inteligencia artificial para seleccionar automáticamente los 100 perfiles que considera más adecuados.
• Otra implementa un sistema que analiza productividad, cumplimiento de objetivos, ausentismo y desempeño para elaborar un ranking mensual de trabajadores.
• Una tercera utiliza algoritmos para identificar qué colaboradores presentan mayor probabilidad de renunciar durante los próximos seis meses.
• Y una cuarta plantea una pregunta aparentemente sencilla a una herramienta de inteligencia artificial: “¿Qué puestos debería eliminar para reducir en 15% mis costos laborales?”

Todos estos usos pueden generar enormes eficiencias, pero también pueden generar enormes problemas dado que una decisión que antes adoptaba exclusivamente una persona puede comenzar a estar condicionada —o incluso determinada— por un algoritmo y ahí comienza una discusión que el derecho del trabajo peruano recién empieza a enfrentar.

El algoritmo también puede discriminar

Existe una idea bastante extendida según la cual una decisión automatizada necesariamente será más objetiva que una decisión humana, pero no siempre es así.

La inteligencia artificial aprende y produce resultados a partir de información, parámetros y datos que pueden contener sesgos. Por ello, un sistema aparentemente neutral podría terminar perjudicando sistemáticamente a determinados grupos de personas.

Supongamos que una empresa utiliza la información de sus mejores ejecutivos de los últimos diez años para que un algoritmo identifique el perfil ideal de sus futuros gerentes.

Si históricamente esos cargos fueron ocupados mayoritariamente por hombres de determinado rango de edad, el sistema podría aprender que esas características están asociadas al éxito y reproducir indirectamente ese patrón al evaluar nuevos candidatos.

No necesita existir una instrucción que diga “prefiere hombres”, “prefiere de tal rango de edad”. El sesgo puede encontrarse en los propios datos utilizados para entrenar o alimentar el sistema. Y aquí aparece una cuestión jurídica fundamental: el problema no desaparece porque la discriminación haya sido producida por una máquina.

Para el candidato o trabajador que fue excluido de un proceso de selección, promoción o capacitación, poco importa si la decisión discriminatoria fue tomada directamente por un gerente o generada por un algoritmo utilizado por la empresa. La tecnología puede automatizar una decisión. Lo que no puede automatizar es la responsabilidad.

¿Puede la IA evaluar a un trabajador?

Las empresas tienen facultades para organizar el trabajo, supervisar el cumplimiento de las obligaciones laborales y evaluar el desempeño de sus trabajadores. La inteligencia artificial puede convertirse en una herramienta extraordinariamente potente para ejercer esas facultades. Pero existen límites.

Un sistema podría analizar tiempos de atención, ventas, producción, cumplimiento de objetivos o indicadores de calidad.

El problema aparece cuando la tecnología comienza a construir perfiles mucho más invasivos: analizar permanentemente comunicaciones, patrones de conexión, desplazamientos, expresiones faciales, tonos de voz o determinados comportamientos para intentar inferir productividad, compromiso, estrés o incluso la intención de abandonar la compañía. En ese momento, el debate deja de ser únicamente laboral ya que entramos al terreno de la privacidad, la protección de datos personales y los derechos fundamentales.

El empleador puede fiscalizar la prestación de servicios. Pero esa facultad no significa que pueda convertir al trabajador en una fuente ilimitada de datos. La supervisión debe responder a una finalidad legítima, resultar razonable, ser proporcional y respetar los derechos fundamentales de las personas.

“La IA recomendó despedirlo”

¿Qué ocurriría si un sistema analiza productividad, evaluaciones, ausencias, costos salariales y desempeño de toda una organización y recomienda qué trabajadores deberían salir? La empresa podría utilizar esa información como un elemento adicional para tomar una decisión. Lo peligroso sería transformar la recomendación algorítmica en una decisión automática.

Imaginemos la conversación:

—¿Por qué estoy siendo despedido?

—Porque el sistema determinó que eras prescindible.

Puede sonar exagerado. Pero tecnológicamente estamos cada vez más cerca de que una situación semejante sea perfectamente posible y jurídicamente, la respuesta resulta insuficiente.

En materia laboral, las decisiones empresariales relevantes necesitan razones objetivas que puedan ser identificadas, explicadas y, cuando corresponda, acreditadas. Si un trabajador pregunta por qué fue considerado de bajo desempeño, excluido de una promoción o incluido en un proceso de desvinculación, difícilmente debería resultar suficiente responder: “Porque lo determinó el algoritmo”.

La responsabilidad por una decisión laboral —y por el procedimiento mediante el cual se adopta— continúa perteneciendo a quien finalmente la toma y genere (o puede generar) diversas implicancias legales.

Perú ya tiene ciertas reglas sobre inteligencia artificial

Perú cuenta con la Ley No. 31814 y, desde septiembre de 2025, con su Reglamento, aprobado mediante el Decreto Supremo No. 115-2025-PCM.

El marco legal peruano adopta un enfoque basado en riesgos y coloca entre sus ejes el respeto de los derechos fundamentales, la transparencia, la privacidad y la supervisión humana. Esto tiene especial relevancia para las relaciones laborales dado que la normativa reconoce que determinados sistemas de inteligencia artificial pueden generar riesgos importantes y establece obligaciones destinadas a promover un uso seguro, ético y responsable de estas tecnologías.

Por tanto, las áreas de Recursos Humanos ya no deberían evaluar una herramienta de IA preguntándose únicamente: “¿Cuánto tiempo o dinero nos permitirá ahorrar?”, sino que también deberían preguntarse: ¿Qué datos utiliza?, ¿Cómo genera sus resultados?, ¿Qué sesgos podría contener?, ¿Podemos explicar por qué llegó a determinada conclusión?, ¿Quién supervisa sus recomendaciones?, ¿Puede una persona revisar o cuestionar el resultado?, ¿Y qué consecuencias puede producir sobre los derechos de los trabajadores?

Recursos Humanos necesitará una nueva forma de compliance que permita garantiza el uso de IA en concordancia y armonía con el respeto de los derechos de las personas.

Una compañía que utilice IA en Recursos Humanos debería saber exactamente dónde la está utilizando: reclutamiento, entrevistas, evaluaciones, productividad, promociones, compensaciones, medidas disciplinarias o desvinculaciones.

También debería establecer qué decisiones pueden ser automatizadas, cuáles pueden ser simplemente asistidas por algoritmos y cuáles necesariamente requieren intervención humana. Pero creemos que existe una pregunta todavía más básica que muchas organizaciones probablemente no se han formulado: ¿Qué información de la empresa y de sus trabajadores están ingresando sus propios empleados en herramientas públicas de inteligencia artificial?

• Currículums.
• Evaluaciones de desempeño.
• Remuneraciones.
• Investigaciones internas.
• Información médica.
• Sanciones disciplinarias.
• Estrategias de desvinculación.
• Información confidencial de la compañía.

Todo ello podría terminar siendo procesado en plataformas externas si la organización no establece reglas claras sobre el uso de estas herramientas. Por eso, las empresas necesitarán desarrollar algo que hasta hace muy poco prácticamente no existía, y ello es una verdadera gobernanza laboral de la inteligencia artificial.

No necesitamos crear nuestro propio Skynet

Prohibir o dificultar excesivamente el uso de inteligencia artificial podría significar renunciar a herramientas capaces de mejorar enormemente la productividad y competitividad de las empresas. Pero aceptar que un algoritmo pueda contratar, calificar, promover, sancionar o recomendar el despido de una persona sin transparencia ni supervisión humana sería igualmente problemático.

La solución probablemente no esté en escoger entre humanos o máquinas, sino que estará en definir correctamente qué decisiones pueden ser automatizadas, cuáles pueden ser asistidas por inteligencia artificial y cuáles, debido a su impacto sobre las personas, deben permanecer bajo control humano.

La IA puede procesar miles de currículums en segundos, puede detectar patrones que ningún gerente advertiría, puede analizar cantidades extraordinarias de información y, probablemente, podrá hacer mañana muchas cosas que hoy no imaginamos o que consideramos imposibles. Pero hay una diferencia enorme entre ayudar a una persona a decidir y decidir sobre una persona.

En Terminator, el problema comenzó cuando los seres humanos entregaron demasiado poder de decisión a Skynet. No parece probable que Recursos Humanos vaya a desencadenar el apocalipsis de las máquinas.

Pero, por si acaso, podríamos empezar por una regla bastante sencilla: si detrás de un dato existe una persona cuyo empleo, carrera profesional o sustento familiar puede verse afectado, la última palabra debería seguir perteneciendo a un ser humano.

Después de todo, si algo nos enseñó Terminator es que entregarles a las máquinas la última palabra nunca terminó demasiado bien.