Los algoritmos pueden replicar sesgos raciales. Hay decenas de ejemplos que muestran cómo la inteligencia artificial puede discriminar a favor o en contra de ciertos grupos. A veces esto ocurre por un entrenamiento deficiente, con una base de datos limitada. Aunque, en ocasiones, también podría tratarse de una limitación intencional por parte de quienes los programan.
Hace una semana, la congresista estadounidense Alexandria Ocasio-Cortez planteó puntualmente el tema del sesgo racial en los algoritmos de reconocimiento facial y habló de la necesidad de encontrar una solución para este tema.
En sintonía con esta idea, investigadores del MIT presentaron un sistema que permite identificar y quitar, de manera automática, el sesgo que puede haber en un set de datos y generar una muestra más equilibrada y representativa de la diversidad para reentrenar a los algoritmos.
El algoritmo que desarrollaron puede aprender tanto una tarea específica, como es la detección de rostros, así como la estructura detrás de los datos de entrenamiento, lo cual le permite identificar y minimizar cualquier sesgo oculto.
En el documento se remarca que, en las pruebas realizadas, el algoritmo pudo reducir en más de un 60% el “sesgo categórico” en comparación con los resultados obtenidos con los modelos de detección facial que se emplean habitualmente.
Para entrenar a la inteligencia artificial, en la actualidad se requiere que haya algún nivel de intervención humana para definir bases de datos así como limitaciones o filtros específicos que se quiere que el sistema aprenda.
Este algoritmo desarrollado por el equipo del MIT puede analizar una base de datos, identificar los sesgos o limitaciones que se encuentran allí y hacer un nuevo muestreo para que el resultado sea más equitativo o justo.
MÁS SOBRE ESTE TEMA:
Últimas Noticias
El Papa León XIV abrió en el Vaticano el debate sobre salud global: claves para la Argentina
Reunió a expertos mundiales para reflexionar sobre cómo sostener el derecho a la salud en un mundo de escasez y profundas desigualdades. Este debate dialoga con los problemas que enfrenta hoy la Argentina, donde la judicialización del sistema sanitario, la presión sobre las obras sociales, las restricciones presupuestarias y el financiamiento de tratamientos de alto costo tensionan la política pública
Suspendida la línea 6 del Metro de Madrid tras caerse un techo en la estación de Carpetana
El servicio ha quedado interrumpido entre Plaza Elíptica y Príncipe Pío
Elecciones 2026: multas por uso indebido de propaganda pueden superar el medio millón de soles
El JNE impondrá multas que van desde S/ 5.500 (1 UIT) hasta S/ 550.000 (100 UIT), según la gravedad y repetición de la falta
El Banco Central compró USD 2.400 millones en 2026 y las reservas tocaron un máximo en más de cuatro años
La autoridad monetaria encadenó 33 jornadas consecutivas con saldo comprador de divisas. En lo que va del año, adquirió el 23% de la meta fijada para todo 2026
Uno de cada cinco hogares urbanos en Cusco utiliza principalmente combustibles contaminantes para cocinar
La masificación del gas natural resulta clave para acelerar la transición energética
