¿Por qué Siri, Alexa y Cortana tienen voz de mujer? Pensar la tecnología digital con perspectiva de género

Vivimos en tiempos interesantes: se calcula que en enero de 2022 casi cinco mil millones de personas en todo el globo -esto es, alrededor del 60% de la población- se conectó al menos una vez a la semana a Internet, la mayoría de ellos mediante un teléfono inteligente.

Una de las actividades predilectas de estas personas cuando están en línea es conectarse a una red social: en junio del año pasado Facebook tenía con 2.853 millones de perfiles activos mensuales, seguido por YouTube, con 2.291 millones e Instagram, 1.386 millones. WhatsApp, que nació como un mensajero instantáneo pero fue mutando a una plataforma de contenidos que incluye grupos y la posibilidad de compartir “historias”, es utilizado por 2000 millones de personas. Ninguna de estas redes sociales existía hace dos décadas cuando las personas que se conectaban a Internet rondaban los 533 millones, apenas el 8.7% de la población... ¿qué sucedió en ese lapso?

Sin dudas una serie de transformaciones muy profundas que impactaron en todos los sectores de la sociedad, incluso los más tradicionales, y que modificaron nuestra vida cotidiana, la manera de vivir nuestros vínculos sociales, familiares y sexo-afectivos y que incluso inciden en nuestra identidad.

Sin embargo, estas transformaciones no implican que se hayan dado cambios radicales en el balance de las fuerzas dentro la sociedad. De hecho, y en muchos sentidos, se consolidó el status quo vigente hasta entonces, con situaciones de inequidad e injusticia por parte de los actores poderosos en detrimento de sectores marginalizados o minimizados. En el ensayo Pensar la tecnología digital con perspectiva de género el Grupo GIFT (Inteligencia Artificial, Filosofía y Tecnología) se propone brindar recursos para reflexionar sobre cómo la tecnología se ha vuelto un facilitador más de opresión contra un sector de la sociedad.

>> Para descargar el ensayo

Con el foco puesto en las tecnologías digitales y las cuestiones de géneros, este trabajo de descarga gratuita e inédito en el tema en español forma parte del proyecto GuIA, que es una iniciativa del CETyS, y que tiene tres partes ideales para la lectura y discusión en espacios educativos como escuelas secundarias o universidades. En la primera, ofrece un marco conceptual para encuadrar estas reflexiones en el esquema más amplio de la filosofía de la tecnología; luego, problematizando el concepto de sesgo y analizando cómo gravita en los desarrollos tecnológicos, potencialmente perjudicando a aquellos sectores que no son los dominantes; para finalmente analizar casos concretos y recientes, con la esperanza de ponerlos bajo una nueva luz, que habilite nuevas ideas y, tal vez, el inicio del camino que nos lleve a respuestas y soluciones.

Uno de los ejemplos analizados es lo que sucede con los asistentes virtuales que utilizan la voz como comando y que permiten interactuar con tecnología sin necesidad de tocar ningún dispositivo ni ocupar la vista en eso, habilitando realizar en simultáneo otras tareas, como manejar un coche, cocinar o seguir trabajando sin interrupciones. Es notorio comprobar que los proyectos más populares del momento -Siri, en los sistemas iOS de Apple; Alexa, del ecosistema de la empresa Amazon y Cortana, de Microsoft- feminizaron a sus asistentes de voz, dándole un nombre, una personalidad y un tono femenino en la voz que viene por default.

Esto tiene sus consecuencias: en los últimos años se multiplicaron los estudios que encontraron que personas de todo el mundo tenían un trato violento con sus asistentes virtuales de voz. En efecto, se ha establecido a través de exhaustivas investigaciones que la feminización de los asistentes virtuales genera que sean objeto de violencia. Esto implica que hay usuarios que asumen conductas violentas hacia estos dispositivos. Más allá del hecho trivial de que estos aparatos no son seres sintientes que puedan ser víctimas de violencia -a diferencia de las mujeres y otras identidades sexo-genéricas de carne y hueso-, es importante destacar varios hechos ligados a su existencia que reflejan la sociedad patriarcal en la que vivimos.

Por un lado, es llamativo que estas plataformas, que se están multiplicando a nuestro alrededor y con las que es común crear lazos de mayor intimidad que con otros dispositivos, son maltratadas si son presentadas como mujeres. Estudios publicados detectaron que era común que los usuarios hicieran comentarios sexistas y dieran órdenes denigrantes a sus dispositivos, incluso sabiendo que eran imposibles de cumplir: la intención parecía ser molestar a esa voz femenina y comprobar qué cosas estaba dispuesta a hacer para complacer. Estos pedidos son procesados e interpretados por las plataformas pero hay distintas estrategias programadas para ellos: mientras que algunos asistentes simplemente están programados para responder o decir que el comando no se comprende, en otras ocasiones se prestan al juego.

En el caso de Siri, por ejemplo, la frase “¡Me sonrojaría si pudiese!” fue la que los programadores decidieron poner como respuesta a insinuaciones con la palabra “bitch”. La decisión quedó en el ojo de la tormenta cuando UNESCO publicó un informe sobre tecnología y género que se llamó exactamente así (“I’d Blush If I Could”), forzando a que en la siguiente actualización de Siri se eliminara esa frase y se la reemplazara por un “No sé qué responder a eso”. Alexa, por su parte, hasta 2018 respondía “¡Gracias por el comentario!” cuando se le decía “puta” y ahora responde lacónica: “No estoy segura de qué es lo que esperás con esas palabras”. Como vemos, las decisiones de diseño relativas a cómo deben responder estos dispositivos al diálogo humano pueden amplificar o ayudar a corregir situaciones sociales de inequidad o violencia de género.

Los asistentes virtuales, además, reciben nombre y personalidad femenina cuando son diseñados para tareas hogareñas y de asistencia personal, pero si se trata de plataformas para pedir asesoramiento financiero sobre ámbitos como el de los automóviles y las motos, por ejemplo, sus nombres y personalidades son masculinas. Los estudios culturales feministas señalaron ya hace muchos años cómo los entornos artefactuales están generizados pero la fascinación que nos producen las tecnologías digitales de inteligencia artificial en ocasiones nos hace olvidar cómo ellas también consolidan las normatividades de género.

Si los humanos proyectamos en los asistentes de voz expectativas de género sobre cómo deberían actuar las entidades “masculinas” y “femeninas”, surgen algunas preguntas: ¿Se debe promover la generización de este tipo de artefactos? ¿O deberíamos evitarla? ¿La generización cumple un rol en la eficacia de estos dispositivos en sus tareas y en la aceptación de los seres humanos de los mismos o refuerza los estereotipos de género que amplifican las desigualdades sociales? Estas son algunas de las preguntas que plantea Pensar la tecnología digital con perspectiva de género.

El grupo GIFT está formado por Karina Pedace, Tomás Balmaceda, Diana Pérez, Diego Lawler y Maximiliano Zeller, filósofos de la tecnología que ya editaron el manual “Caja de Herramientas Humanísticas”, otro ensayo de descarga gratuita pensado para el aula y son parte del Instituto de Filosofía de la Sociedad Argentina De Análisis Filosófico (SADAF).