De izquierda a derecha: Moya Bailey, Sarah Jackson y Brooke Foucault Welles (Foto: Matthew Modoono/ Northeastern University)
De izquierda a derecha: Moya Bailey, Sarah Jackson y Brooke Foucault Welles (Foto: Matthew Modoono/ Northeastern University)

En Estados Unidos, solo 10% de la población no accede a internet. Ese porcentaje desciende a 8% entre los blancos, y asciende a 14% entre los latinos y 15% entre los afroamericanos. Además, 72% de los blancos tiene banda ancha en su casa, comparado con 47% entre los latinos y 57% entre los afroamericanos. Esta disparidad tiene un correlato en la composición de la fuerza laboral del sector de tecnología digital: los latinos representan solo el 7% de los programadores, y los afroamericanos el 8%. Esta composición ha cambiado poco en los últimos 15 años, a pesar del gran crecimiento de este sector.

En América Latina no hay estadísticas confiables sobre la representación de las minorías entre los usuarios y trabajadores de la tecnologia digital. Sin embargo, existe la impresión de que estamos lejos de la red neutral, igualitaria y postracial con la que se soñaba en los albores de la era digital. Safiya Umoja Noble, profesora de la Universidad de California en Los Angeles, y autora del libro Algoritmos de opresión: Cómo los motores de búsqueda refuerzan el racismo, explica cómo la red y los algoritmos reproducen durante el proceso de desarrollo tecnológico los prejuicios pre-existentes.

En diálogo con Infobae, Noble comenta que "dentro de la sociedad, y más específicamente en la educación en matemáticas e ingeniería, está extendida la noción de que las matemáticas simplemente no pueden discriminar. Pero cuando hablamos de que la inteligencia artificial y los algoritmos tienen el poder de discriminar, nos referimos a la manera en que se aplican modelos matemáticos y estadísticos hacia las personas, las comunidades y la sociedad".

En su libro, Noble detalla cómo los resultados de búsquedas en internet, construidos a través de algoritmos, generan muchas veces resultados discriminatorios. Por ejemplo, las búsquedas sobre "chicas afroamericanas", "chicas latinas" y "chicas hispanas" arrojan resultados con imágenes sexualizadas y pornificadas. Otros resultados caracterizan a mujeres afroamericanas como "enojadas", "ruidosas", "malas" y "perezosas".

En los últimos años, Google cambió la forma de presentar resultados: las búsquedas sobre grupos minoritarios ahora tienden a no dar resultados predictivos. Y en los casos en los que hay resultados potencialmente discriminatorios, el buscador ofrece la opción de "denunciar predicciones ofensivas".

¿Por qué son tan importantes los resultados de los buscadores? Noble, quien trabajó durante quince años en marketing y publicidad, explica cómo "Google y las grandes plataformas de Internet utilizan las mismas lógicas que el trabajo en marketing y publicidad para organizar y mostrar contenido en línea", y agrega, "el problema, por supuesto, es que el público ve los medios sociales y los motores de búsqueda como organizaciones confiables de noticias e información, en lugar de lo que son: plataformas de publicidad global."

En un mundo cada vez más conectado, la discriminación en el entorno digital tiene consecuencias fuera del mismo. Por ejemplo, los datos de las personas que están disponibles online, incluyendo sus características raciales y étnicas, contactos en redes sociales, y grupos de pertenencia, pueden ser utilizados para determinar si se les otorgan acceso a servicios sociales o financieros. Este tipo de discriminación continúa prácticas de exclusión cara a cara mediante las cuales a las minorías no les vendían casas en determinados barrios, no les aprobaban sus solicitudes de hipoteca, y les cobraban más caros los seguros.

Safiya Umoja Noble (Foto: UCLA)
Safiya Umoja Noble (Foto: UCLA)

Para Noble, estas prácticas son "difíciles de detectar porque la discriminación tecnológica se realiza a través de software y plataformas en línea, basados en Internet, y el proceso es opaco y difícil de ver hasta después de que el sistema haya tomado una decisión, como el aumento de las primas de seguro, la denegación de un préstamo bancario o la no admisión a un programa educativo".

Pero no todo está perdido: la tecnología y las redes también tienen un potencial emancipador, como sostienen Sarah Jackson, Moya Bailey y Brooke Foucault Welles en su libro de próxima publicación por MIT Press, #Hashtag activismo: Raza y género en los contrapúblicos en red en Estados Unidos. Estas profesoras de la Universidad Northeastern examinan cómo la comunidad afroamericana se congrega en Twitter para discutir temas que son importantes para ellos y promover el cambio social.

El movimiento "Black Lives Matter", contra la violencia policial hacia los afroamericanos, existía desde antes que el oficial de policía Darren Wilson matara al adolescente Michael Brown en Ferguson, Missouri, en 2014. Sin embargo, este movimiento se hizo masivo a través de Twitter, después del asesinato de Brown. En diálogo con Infobae, Foucault Welles sostiene que "las protestas en Ferguson y el hashtag #Ferguson fue el punto en el que el movimiento Black Lives Matter ganó amplio reconocimiento en todo Estados Unidos".

La investigadora agrega: "Michael Brown fue asesinado durante la mitad del día, en un área poblada, y la gente apareció y comenzó documentando rápidamente en las redes sociales lo que estaba pasando (…) Miembros de la comunidad, activistas y políticos locales utilizaron Twitter y otras redes para documentar las protestas y exigir información sobre los eventos que rodearon la muerte de Michael Brown".

El alcance de la protesta se amplió en las redes sociales. Según Foucault Welles "cuando la violencia policial afecta principalmente a una minoría de la población, la mayoría de las personas (por definición) nunca tendrán una experiencia directa y personal con esos problemas". Pero, "cuando la discriminación aparece en redes sociales, es más probable que se cubra en los medios mainstream, y cuanta más cobertura de los medios de comunicación haya, más probable es que la mayoría de los estadounidenses comience a discutir el tema".

Foucault Welles también resalta la importancia de combinar activismo online con organización local: "Twitter puede ser una herramienta poderosa para el activismo, especialmente para crear conciencia sobre los problemas que afectan a las comunidades minoritarias y marginadas. Nuestra investigación encuentra que los mensajes más populares son aquellos en los que las personas comparten historias reales desde sus propias perspectivas: a las personas les gusta conectarse con los demás". Sin embargo, "Twitter es solo una parte de una imagen más amplia de la organización (…) Las reuniones cara a cara, la participación cívica y política, y la recaudación de fondos son importantes para lograr el cambio social".

Noble también hace hincapié en el cambio social: "las industrias tecnológicas no pueden supervisar su eficacia y determinar el impacto de los daños al público y al consumidor de sus productos y servicios, de la misma manera que las compañías farmacéuticas o de combustibles fósiles no pueden autorregularse." Por esto, propone una "Iniciativa de la Verdad en la tecnología, similar a la Campaña de la Verdad para la industria del tabaco", ya que "estos problemas son más sociales y políticos que técnicos".

Internet y las redes reflejan lo peor y lo mejor de nosotros: las prácticas discriminatorias y la lucha por la justicia. Esto visibiliza una premisa simple pero no por eso menos poderosa: no existen soluciones tecnológicas para nuestros problemas políticos.

*Eugenia Mitchelstein es profesora en el Departamento de Ciencias Sociales de la Universidad de San Andrés

Pablo J. Boczkowski es profesor en el Departamento de Estudios de la Comunicación de Northwestern University, Estados Unidos

Mitchelstein y Boczkowski son codirectores del Centro de Estudios sobre Medios y Sociedad en Argentina (MESO)

MÁS SOBRE ESTOS TEMAS: