Los algoritmos pueden replicar sesgos raciales. Hay decenas de ejemplos que muestran cómo la inteligencia artificial puede discriminar a favor o en contra de ciertos grupos. A veces esto ocurre por un entrenamiento deficiente, con una base de datos limitada. Aunque, en ocasiones, también podría tratarse de una limitación intencional por parte de quienes los programan.
Hace una semana, la congresista estadounidense Alexandria Ocasio-Cortez planteó puntualmente el tema del sesgo racial en los algoritmos de reconocimiento facial y habló de la necesidad de encontrar una solución para este tema.
En sintonía con esta idea, investigadores del MIT presentaron un sistema que permite identificar y quitar, de manera automática, el sesgo que puede haber en un set de datos y generar una muestra más equilibrada y representativa de la diversidad para reentrenar a los algoritmos.
El algoritmo que desarrollaron puede aprender tanto una tarea específica, como es la detección de rostros, así como la estructura detrás de los datos de entrenamiento, lo cual le permite identificar y minimizar cualquier sesgo oculto.
En el documento se remarca que, en las pruebas realizadas, el algoritmo pudo reducir en más de un 60% el “sesgo categórico” en comparación con los resultados obtenidos con los modelos de detección facial que se emplean habitualmente.
Para entrenar a la inteligencia artificial, en la actualidad se requiere que haya algún nivel de intervención humana para definir bases de datos así como limitaciones o filtros específicos que se quiere que el sistema aprenda.
Este algoritmo desarrollado por el equipo del MIT puede analizar una base de datos, identificar los sesgos o limitaciones que se encuentran allí y hacer un nuevo muestreo para que el resultado sea más equitativo o justo.
MÁS SOBRE ESTE TEMA:
Últimas Noticias
Sindicato y empleador: Causas de los conflictos laborales
El documento detalla que los tipos de desacuerdo laboral se generan por malentendidos o problemas en la comunicación, sobre los roles y las responsabilidades, cuestionamientos sobre liderazgo y gestión, entre otros
Phillip Butters renuncia al partido Avanza País: “Por motivos políticos y personales, he de alejarme de su institución”
Butters explicó que su dimisión a la precandidatura se debe a la falta de organización, control y rigor dentro del partido, aspectos que considera esenciales para presentar una alternativa sólida al país. Según afirmó, estas deficiencias imposibilitan asumir una campaña seria
Perú es reconocido por tener la tercera mejor cocina del mundo en los Premios Taste Atlas 2025
El nuevo ranking ubicó a la gastronomía peruana entre las más destacadas del planeta, impulsada por la alta valoración de sus platos emblemáticos, la calidad de sus productores y la presencia de restaurantes tradicionales, superando así a naciones como México, España y Japón
Por qué Miguel Polo Polo dejó plantadas a las madres de Soacha que esperaban sus disculpas: “Se burla”
El parlamentario no acudió al evento programado en el Congreso, argumentando razones administrativas y de agenda, lo que provocó inconformidad entre las madres de víctimas de ‘falsos positivos’
CDMX: estos son los vuelos cancelados y demorados de este viernes
Si vas a tomar un vuelo en el aeropuerto capitalino, esta información es de tu interés
