Los algoritmos pueden replicar sesgos raciales. Hay decenas de ejemplos que muestran cómo la inteligencia artificial puede discriminar a favor o en contra de ciertos grupos. A veces esto ocurre por un entrenamiento deficiente, con una base de datos limitada. Aunque, en ocasiones, también podría tratarse de una limitación intencional por parte de quienes los programan.
Hace una semana, la congresista estadounidense Alexandria Ocasio-Cortez planteó puntualmente el tema del sesgo racial en los algoritmos de reconocimiento facial y habló de la necesidad de encontrar una solución para este tema.
En sintonía con esta idea, investigadores del MIT presentaron un sistema que permite identificar y quitar, de manera automática, el sesgo que puede haber en un set de datos y generar una muestra más equilibrada y representativa de la diversidad para reentrenar a los algoritmos.
El algoritmo que desarrollaron puede aprender tanto una tarea específica, como es la detección de rostros, así como la estructura detrás de los datos de entrenamiento, lo cual le permite identificar y minimizar cualquier sesgo oculto.
En el documento se remarca que, en las pruebas realizadas, el algoritmo pudo reducir en más de un 60% el “sesgo categórico” en comparación con los resultados obtenidos con los modelos de detección facial que se emplean habitualmente.
Para entrenar a la inteligencia artificial, en la actualidad se requiere que haya algún nivel de intervención humana para definir bases de datos así como limitaciones o filtros específicos que se quiere que el sistema aprenda.
Este algoritmo desarrollado por el equipo del MIT puede analizar una base de datos, identificar los sesgos o limitaciones que se encuentran allí y hacer un nuevo muestreo para que el resultado sea más equitativo o justo.
MÁS SOBRE ESTE TEMA:
Últimas Noticias
Cuáles son los movimientos en billeteras virtuales que usa ARCA para excluir contribuyentes del Monotributo
El fisco nacional inició la fiscalización sistemática en base a la información que recibió por transacciones de contribuyentes en plataformas digitales durante 2024 y 2025. Cómo se puede apelar y qué documentación se debe presentar
Cambia la estrategia antiinflacionaria del Gobierno: baja las tasas mientras el mercado aguarda el nuevo bono en dólares
Este miércoles se licitará el título denominado en moneda extranjera y hay expectativa entre los inversores. En paralelo, la volatilidad sigue afectando a las bolsas de Estados Unidos y podría contagiar a la Argentina
Estos son los turnos de racionamiento de agua en Bogotá, hoy 25 de febrero
Que los cortes de agua en Bogotá no te tomen por sorpresa, toma tus precauciones y alista las reservas
Pilas: Así rotará el Pico y Placa en Cali este miércoles 25 de febrero
Esto le interesa si va a conducir por las calles de ciudad este miércoles
Granos desaparecidos, denuncias y cheques impagos: la situación de una empresa del agro genera otra vez preocupación en el sector
Con 440 cheques impagos por más de $2.000 millones, Huergo Cereales, de Chivilcoy, negocia su venta a un grupo agroindustrial. Qué dicen los productores que son sus clientes
