El conflicto entre la tecnología de reconocimiento facial y el derecho a la privacidad

Cuando se implementó como una herramienta para desbloquear el teléfono, el reconocimiento facial parecía ser una ventaja. Cuando una empresa lo utiliza para etiquetarte en las fotografías, la tecnología puede plantear algunas cuestiones de privacidad, consentimiento y seguridad de los datos. Pero cuando se implementa como una herramienta de vigilancia, el reconocimiento facial cambia algunas de nuestras suposiciones más básicas sobre cómo la policía interactúa con el público.

"Si nos movemos demasiado rápido con el reconocimiento facial, podemos encontrar que los derechos fundamentales de las personales se están quebrantando", escribió el presidente de Microsoft, Brad Smith, en un blog al tiempo que hacía un llamado a la transparencia, la regulación y la responsabilidad corporativa con esta tecnología.

Él realmente podría estar subestimando el problema.

Imagínate asistiendo a una concentración pública: un mitin político, una protesta por la política de inmigración o una marcha contra el aborto, y los policías caminando entre la multitud exigiendo que cada asistente muestre su identificación. Sería justificado tanto por su indignación ante esta intrusión como por negarse a cumplir con las órdenes. En este país, un oficial de policía debe sospechar que usted cometió un delito antes de detenerlo en la calle y requerir una respuesta a la pregunta: "¿Quién es usted?".

La vigilancia de escaneo facial elimina este punto. La tecnología permite un mundo en el que se escaneen todos los hombres, mujeres y niños que pasan junto a una cámara, a pesar de que no se sospeche que cometieron alguna falta. Pero sus caras son, sin embargo, comparadas con los perfiles de los criminales y otras personas buscadas por la policía. Permite un mundo donde las personas puedan ser identificadas y rastreadas entre diferentes cámaras a través de una ciudad.

En China, el gobierno implementa la vigilancia de escaneo facial para hacer exactamente esto. Las cámaras escanean y verifican las caras de los transeúntes frente a una base de datos nacional de nombres, edades y grupos étnicos. El sistema puede informar a las autoridades sobre todos los lugares en los que ha estado en los últimos días y las personas con las que ha interactúado.

Eso es China. Pero no es una especulación ociosa pensar en cómo se vería un futuro con esta tecnología en Estados Unidos. Amazon, junto al Departamento de Policía de Orlando (Florida), ya está piloteando un programa de vigilancia de escaneo facial utilizando cámaras de video. Axon, anteriormente conocido como Taser y el mayor proveedor actual de cámaras corporales para las agencias de seguridad del país, registró recientemente una patente para llevar a cabo también la vigilancia a través del escaneo facial.

¿Y qué sucede si un sistema como este se equivoca? Un error de un sistema de vigilancia basado en video puede significar que una persona inocente es seguida, investigada e incluso arrestada y acusada de un delito que no cometió. Un error de un sistema de vigilancia de escaneo facial en una cámara corporal podría ser letal. Un oficial, alertado de una posible amenaza para la seguridad pública o para sí mismo, debe, en un instante, decidir si saca su arma. Una falsa alerta coloca a una persona inocente en esos puntos de mira.

La tecnología de reconocimiento facial avanza día a día, pero los problemas con la precisión y las identificaciones erróneas persisten, especialmente cuando los sistemas deben lidiar con imágenes de mala calidad, como las de las cámaras de videovigilancia.

Los oficiales de policía del sur de Gales han probado la vigilancia de escaneo de caras en más de una docena de eventos públicos. Durante la mayoría de ellos, el número de "coincidencias" falsas que marcó el sistema –asistentes inocentes confundidos con personas de interés- superó con creces el número de sospechosos identificados. En una prueba, 9 de cada 10 alertas que el sistema envió a la policía de un posible criminal, de 2.500 en total, fueron de una persona inocente.

Hay circunstancias en las que puede ser necesaria la vigilancia del escaneo facial. Desafortunadamente, ocurren emergencias públicas, durante las cuales los oficiales deben hacer lo que esté en su poder para encontrar a alguien que represente una amenaza para los demás. Pero este paso solo debe tomarse en verdaderas emergencias, donde el costo de tratar a cada persona como un sospechoso es claramente superado por la emergencia en cuestión.

Tenemos derecho a la privacidad. Tenemos el derecho de no ser investigados a menos que se sospeche que cometimos un delito. Deberíamos poder esperar que las herramientas utilizadas por las autoridades policiales no nos identifiquen erróneamente como sospechosos criminales. La vigilancia del escaneo facial puede poner en peligro estas expectativas, así que esperemos que legisladores escuchen el creciente coro a favor de regular la tecnología antes de que cambie fundamentalmente el papel de la policía en nuestra sociedad.