Los algoritmos pueden replicar sesgos raciales. Hay decenas de ejemplos que muestran cómo la inteligencia artificial puede discriminar a favor o en contra de ciertos grupos. A veces esto ocurre por un entrenamiento deficiente, con una base de datos limitada. Aunque, en ocasiones, también podría tratarse de una limitación intencional por parte de quienes los programan.
Hace una semana, la congresista estadounidense Alexandria Ocasio-Cortez planteó puntualmente el tema del sesgo racial en los algoritmos de reconocimiento facial y habló de la necesidad de encontrar una solución para este tema.
En sintonía con esta idea, investigadores del MIT presentaron un sistema que permite identificar y quitar, de manera automática, el sesgo que puede haber en un set de datos y generar una muestra más equilibrada y representativa de la diversidad para reentrenar a los algoritmos.
El algoritmo que desarrollaron puede aprender tanto una tarea específica, como es la detección de rostros, así como la estructura detrás de los datos de entrenamiento, lo cual le permite identificar y minimizar cualquier sesgo oculto.
En el documento se remarca que, en las pruebas realizadas, el algoritmo pudo reducir en más de un 60% el “sesgo categórico” en comparación con los resultados obtenidos con los modelos de detección facial que se emplean habitualmente.
Para entrenar a la inteligencia artificial, en la actualidad se requiere que haya algún nivel de intervención humana para definir bases de datos así como limitaciones o filtros específicos que se quiere que el sistema aprenda.
Este algoritmo desarrollado por el equipo del MIT puede analizar una base de datos, identificar los sesgos o limitaciones que se encuentran allí y hacer un nuevo muestreo para que el resultado sea más equitativo o justo.
MÁS SOBRE ESTE TEMA:
Últimas Noticias
Independiente Santa Fe y Atlético Bucaramanga están obligados a ganar por el partido de la fecha 14 EN VIVO: siga el minuto a minuto
El equipo Leopardo recibe en su casa al conjunto Cardenal, anticipando novedades en su plantilla para este importante juego
Nolberto Solano confía en que la ausencia de Renato Tapia en la selección peruana no responda a su conflicto con la Federación: “Sería muy penoso”
Mano Menezes anunció la nómina para los encuentros amistosos en Europa, pero no incluyó al futbolista del Al Wasl. Su no presencia causó especulaciones por las declaraciones del deportista nacional en desacuerdo con la gestión de Agustín Lozano
Hora y dónde ver en Colombia el amistoso México vs. Portugal: los lusos se prueban ante los anfitriones del Mundial 2026
Con la ausencia de Cristiano Ronaldo, los europeos tendrán un partido de alto nivel para analizar los jugadores que llevará a la Copa de la FIFA y verse con los cafeteros en el grupo K
Antes de la clasificación, Franco Colapinto afronta la última práctica del Gran Premio de Japón de Fórmula 1
El corredor argentino finalizó 16° y 17° en los primeros ensayos en Suzuka. La tercera tanda de pruebas será este viernes, desde las 23:30 (hora argentina)
El mensaje de Enzo Fernández a Joaquín Panichelli tras la lesión que lo dejó afuera del Mundial: “Estamos golpeados”
El autor de uno de los goles ante Mauritania se mostró dolido por su compañero, quien sufrió la rotura de ligamentos en su rodilla. “Le deseo lo mejor y que pueda volver de la mejor manera”, añadió
