¿La IA es feminista? Estos son los retos que la inteligencia artificial tiene en perspectiva de género

Con la incorporación de la inteligencia artificial a los distintos rubros de la cotidianidad, hay preguntas que aun permean el asunto. Cuestiones como cuál es el impacto social que tiene, si se redefinirán los trabajos actuales, si la creación de empleos se verá afectada, entre otras más.

Lo cierto es que, aunque es una gran herramienta de trabajo y que, como muchos especialistas han señalado, está hecha para potencializar las labores del ser humano y no para “robar” esos espacios, la IA aún tiene varios asuntos que solucionar para ser accesible e inclusiva a todo el mundo.

Diversas especialistas de la Universidad Nacional Autónoma de México (UNAM) señalaron que, si bien se dice que la inteligencia artificial no tiene género (como afirman sus desarrolladores) aún tiene un “comportamiento” machista o con sesgo de género cuando proporciona o genera información. “Pruebe y verá: feminista no es la IA. Nadie le ha dado un curso para que lo sea. Sus datos no tienen un perfil inclusivo”, resalta un artículo de la “máxima casa de estudios”.

¿La IA es feminista?

Los sistemas de inteligencia artificial (IA) han avanzado significativamente, pero su desarrollo no está exento de sesgos. A pesar de que la IA en sí misma no posee un género ni una ideología, los conjuntos de datos utilizados en su entrenamiento han reflejado estereotipos y prácticas discriminatorias, relevó ChatGPT en una reciente explicación. Este fenómeno, destacado por expertos, demuestra cómo la representación y los sesgos sociales pueden infiltrar la tecnología más avanzada.

Saiph Savage, ingeniera en computación por la UNAM y doctora en Ciencias de la Computación por la Universidad de California, Santa Bárbara, indicó que la IA busca simular el pensamiento humano mediante el aprendizaje automático. “La IA generativa crea contenido nuevo a partir de la experiencia y el aprendizaje, utilizando millones de datos para entender conceptos”, precisó Savage. Esta tecnología está profundamente influenciada por la interacción humana en la web, donde actividades cotidianas como subir fotos, dar likes o comentar juegan un rol esencial.

Por su parte, María Ximena Gutiérrez, del programa Macrodatos, Inteligencia Artificial e Internet del CEIICH de la UNAM, subrayó que la IA puede reflejar sesgos machistas debido a datos parciales desde su origen. Además, apuntó que estos sistemas neuronales, aunque complejos y eficientes, pueden presentar una falta de transparencia que afecta su imparcialidad.

Un ejemplo notable de discriminación de género en la tecnología emergente ocurrió en una empresa multinacional de comercio electrónico. Entre 2014 y 2015, su algoritmo de selección de personal discriminó a las mujeres, priorizando patrones curriculares masculinos. Este incidente recalca la necesidad de vigilar la neutralidad en los sistemas de IA, especialmente en la industria tecnológica.

Gutiérrez enfatizó la importancia de analizar la representatividad de los datos utilizados para entrenar modelos de IA y cuestionar su soberanía. Savage sugirió que formar equipos interdisciplinarios es esencial para confrontar y mitigar los sesgos existentes y fomentar datos inclusivos. La discriminación de género en sistemas de IA no se limita a la contratación laboral. En decisiones financieras, por ejemplo, la IA ha negado créditos a amas de casa o reducido la cantidad otorgada con base en registros de ingresos. La violencia digital y la creación de contenidos falsos, como las imágenes deep fake, también representan riesgos significativos, afectando la seguridad y representación de las mujeres.

Finalmente, numerosas instituciones buscan una IA responsable. La UNAM fomenta cursos y proyectos que abordan los sesgos de género en la IA, innovando con diseños participativos centrados en las necesidades de las mujeres. Savage destacó la importancia de estas iniciativas para promover la equidad en el desarrollo de tecnologías emergentes.

¿Cómo afecta la inteligencia artificial a las mujeres?

De acuerdo con un informe elaborado por el Banco Interamericano de Desarrollo (BID), la OCDE y la UNESCO, los sistemas de IA pueden influir en las oportunidades laborales, el cuidado y el empleo doméstico para las mujeres.

El documento subraya que, debido a que el diseño de la IA puede estar influenciado por factores culturales y laborales, es posible que estos sistemas refuercen sesgos de género existentes, afectando negativamente a las mujeres. El informe recomienda que los gobiernos, el sector privado y otros actores implementen medidas para evitar que las mujeres queden rezagadas en la economía digital.

Para reducir la brecha de género, el estudio sugiere la necesidad de abordar las complejidades contextuales y geográficas al diseñar e implementar sistemas de IA. La diversidad de los mercados laborales, las economías, las culturas y las normas de género influyen en cómo los trabajadores, y en particular las mujeres, experimentan la tecnología de IA.

El informe también destacó las disparidades en el acceso de las mujeres a las habilidades digitales y a los puestos de trabajo. Señala que a nivel mundial, las mujeres tienen un 25% menos de probabilidades que los hombres de saber utilizar tecnologías de la información y la comunicación (TIC) para fines básicos, como por ejemplo, el uso de fórmulas en hojas de cálculo, según la coalición EQUALS Skills de la UNESCO (2019). Además, los hombres tienen cuatro veces más probabilidades de poseer habilidades avanzadas como la programación.

Asimismo, los organismos internacionales subrayaron la importancia de crear entornos laborales que promuevan la igualdad de habilidades de las mujeres en la sociedad. Indica que algunos sistemas de IA podrían perpetuar modelos desiguales de trabajo flexible, reforzando la idea de que las mujeres son las principales responsables del cuidado y del trabajo doméstico.