El avance de herramientas como la Inteligencia Artificial (IA) ha repercutido positivamente en la economía y la vida cotidiana de las personas. Uno de sus efectos es el acceso a información que permite optimizar la toma de decisiones de empresas, instituciones y gobiernos impactando así, directa o indirectamente, en las comunidades.

Sin embargo, obtener datos de calidad resulta apenas el primer paso, siendo clave procesarlos de manera analítica, lo cual deriva en una demanda cada vez mayor de recursos humanos calificados para su tratamiento, pero es crucial que nos preguntemos: ¿quiénes están detrás del proceso analítico, de la composición y de los universos de los datos que alimentan estos sistemas como los algoritmos de la IA? Y más importante aún, ¿quiénes están ausentes?

Existe un desequilibrio en materia de género en todos los empleos vinculados con la tecnología: la presencia de mujeres no crece a igual ritmo que la de los varones, lo cual puede generar diversas consecuencias indeseadas en la sociedad. Una de ellas es que quienes asumen la tarea de extraer inteligencia de los datos reproduzcan sesgos propios de su universo poblacional, los cuales pueden trasladarse al ámbito de las decisiones y perpetuar -incluso ampliar y amplificar- prejuicios y estereotipos sociales.

El Índice de Normas Sociales de Género del PNUD de 2023, que abarcó al 85% de la población mundial, reveló que cerca de 9 de cada 10 hombres y mujeres tienen prejuicios fundamentales contra las mujeres. De acuerdo con el informe ‘Prejuicios sistemáticos: una investigación sobre los prejuicios contra las mujeres y las niñas en los grandes modelos lingüísticos’, de la UNESCO, estas concepciones erróneas se infiltran en los avances tecnológicos y las innovaciones del mundo moderno, en particular en los sistemas de IA y especialmente en los modelos de lenguaje a gran escala que, entrenados en contenidos de buscadores de internet y redes sociales, pueden hacer asociaciones inapropiadas entre términos de género y otros con connotaciones negativas.

En este sentido, la Inteligencia Artificial (IA) puede amplificar estos efectos negativos si no se entrenan sus algoritmos con datos diversos y con supervisión adecuada, ya que los modelos aprenden tanto de las instrucciones humanas como de patrones preexistentes en los datos. Es crucial asegurar que este proceso de aprendizaje esté libre de prejuicios para evitar la perpetuación de estereotipos.

En este ciclo de retroalimentación, la IA también podría profundizar la brecha digital que a su vez es, en buena medida, responsable de la subrepresentación de la mujer. En ese sentido cabe mencionar que, según el ‘Informe de la UNESCO sobre la Ciencia’, las mujeres son sólo el 28% de quienes se gradúan en Ingeniería y el 40% de quienes egresan de Informática. Además, tienen una presencia de apenas el 22% en los equipos profesionales que trabajan en el desarrollo de la IA. Asimismo, el reporte ‘¿Dónde están las mujeres?’, del Alan Turing Institute, destaca que solo entre el 10% y 15% de los puestos de investigación en aprendizaje automático en empresas líderes de tecnología son ocupados por mujeres.

La IA puede ser una herramienta poderosa, pero como toda herramienta si no es usada de forma responsable e inclusiva puede incrementar las desigualdades y se hace especialmente evidente cuando vemos cómo los sesgos de género impactan en los resultados. Es muy importante formar equipos diversos y multidisciplinarios que permitan diseñar algoritmos más justos para mitigar estos sesgos. Iniciativas como programas de liderazgo y desarrollo profesional también son clave para impulsar una mayor presencia de mujeres en tecnología.

Sin dudas, promover la diversidad de género en tecnología es crucial para disminuir e incluso revertir el daño algorítmico derivado de una representación insuficiente o distorsionada de las mujeres en la producción de la IA, que influye negativamente en calificaciones crediticias bancarias, gestiones de reclutamiento laboral o políticas de salud, entre otras prácticas cotidianas. Y la inclusión de más mujeres en el ámbito tecnológico no solo es un imperativo ético, sino que justamente es una necesidad estratégica para construir una IA más justa y equitativa. Todos tenemos la responsabilidad de asegurar que las tecnologías que definan el futuro incluya a todas las voces. El sesgo en la IA es solo un reflejo del sesgo en la sociedad y cambiarlo comienza con cada uno de nosotros.