Los algoritmos pueden replicar sesgos raciales. Hay decenas de ejemplos que muestran cómo la inteligencia artificial puede discriminar a favor o en contra de ciertos grupos. A veces esto ocurre por un entrenamiento deficiente, con una base de datos limitada. Aunque, en ocasiones, también podría tratarse de una limitación intencional por parte de quienes los programan.
Hace una semana, la congresista estadounidense Alexandria Ocasio-Cortez planteó puntualmente el tema del sesgo racial en los algoritmos de reconocimiento facial y habló de la necesidad de encontrar una solución para este tema.
En sintonía con esta idea, investigadores del MIT presentaron un sistema que permite identificar y quitar, de manera automática, el sesgo que puede haber en un set de datos y generar una muestra más equilibrada y representativa de la diversidad para reentrenar a los algoritmos.
El algoritmo que desarrollaron puede aprender tanto una tarea específica, como es la detección de rostros, así como la estructura detrás de los datos de entrenamiento, lo cual le permite identificar y minimizar cualquier sesgo oculto.
En el documento se remarca que, en las pruebas realizadas, el algoritmo pudo reducir en más de un 60% el “sesgo categórico” en comparación con los resultados obtenidos con los modelos de detección facial que se emplean habitualmente.
Para entrenar a la inteligencia artificial, en la actualidad se requiere que haya algún nivel de intervención humana para definir bases de datos así como limitaciones o filtros específicos que se quiere que el sistema aprenda.
Este algoritmo desarrollado por el equipo del MIT puede analizar una base de datos, identificar los sesgos o limitaciones que se encuentran allí y hacer un nuevo muestreo para que el resultado sea más equitativo o justo.
MÁS SOBRE ESTE TEMA:
Últimas Noticias
Alineaciones de Perú vs Senegal HOY: posibles titulares para duelo amistoso por fecha FIFA 2026
Hay mucha expectativa por conocer cuál será el primer once inicial de Mano Menezes, quien debuta en la ‘bicolor’, frente al cuadro africano, que no tendrá a Sadio Mané. Conoce cómo jugarían ambas selecciones
A qué hora juega Perú vs Senegal HOY: partido amistoso en París por fecha FIFA 2026
Llegó el momento del debut de Mano Menezes al mando de la selección peruana, que presentará varios rostros jóvenes de cara a la próxima Eliminatoria Sudamericana. Conoce los horarios del encuentro
Lotería de Risaralda: los resultados del último sorteo
Un juego que va más allá de simples números. Su impacto transforma vidas, financiando iniciativas que generan progreso en comunidades vulnerables
Un ataque iraní contra una base en Arabia Saudita dejó al menos a 12 soldados estadounidenses heridos
Un misil lanzado desde Irán impactó en el aeródromo militar Príncipe Sultán, el cual ya había sido blanco de ataques previos, y dejó aviones de reabastecimiento de combustible de Estados Unidos dañadas y uniformados lesionados
Fallece Manolo Rojas: comediante peruano de 63 años muere dentro de su vehículo en La Victoria
Efectivos de la Policía Nacional llegaron rápidamente al lugar y acordonaron toda la zona alrededor de la vivienda del comediante, colocando un precinto de seguridad para restringir el acceso mientras se inician las diligencias correspondientes
