Nueva York suspende el reconocimiento facial en su sistema de bicicletas públicas por riesgos de discriminación racial

El rechazo al uso de tecnologías de reconocimiento facial para verificar la edad de usuarios en el sistema Citi Bike marca un cambio clave en la política digital de la ciudad de Nueva York.

La administración encabezada por Zohran Mamdani suspendió un plan impulsado bajo el gobierno de Eric Adams, ante preocupaciones sobre privacidad, manejo de datos biométricos y riesgos de sesgo racial.

Según fuentes del gobierno municipal citadas por Daily News, la Alcaldía solicitó a Lyft, operadora de Citi Bike, no implementar el sistema de reconocimiento facial hasta contar con mayores garantías sobre la seguridad y el tratamiento de los datos biométricos.

El debate sobre los sesgos raciales de los algoritmos y los hallazgos del Instituto Nacional de Estándares y Tecnología (agencia federal de referencia) de Estados Unidos están en el centro de esta decisión.

En un estudio publicado en 2019, el Instituto documentó tasas de error mucho más altas en la identificación de personas afroamericanas, latinas y asiáticas, así como de mujeres y menores de edad, en comparación con adultos blancos.

El informe advierte que la precisión de estos sistemas varía significativamente según la demografía, lo que representa un riesgo para la equidad en los servicios públicos y motivó la suspensión del plan.

La propuesta, actualmente suspendida, fue lanzada en agosto del año pasado, bajo la gestión de Adams, cuando el entonces vicealcalde Randy Mastro solicitó a Lyft desarrollar mecanismos tecnológicos para impedir el uso de bicicletas por menores de dieciséis años, la edad mínima oficial.

El plan contemplaba autofotos y herramientas biométricas para estimar la edad, permitiendo que adolescentes sin identificación oficial accedieran al servicio mediante fotografía facial.

La administración de Zohran Mamdani identificó riesgos como el robo de identidad, el almacenamiento prolongado de datos biométricos y su posible transferencia a agencias policiales o de seguridad; por estas razones, el plan fue suspendido.

El portavoz de la Alcaldía, Jeremy Edwards, afirmó en un comunicado reproducido por Daily News: “El bienestar de los jóvenes neoyorquinos es nuestra prioridad, ya sea en una bicicleta o en línea”, y remarcó la voluntad de explorar alternativas que aseguren privacidad, seguridad, precisión y equidad.

El Instituto Nacional de Estándares y Tecnología (agencia federal de referencia) mantiene investigaciones abiertas sobre los sesgos y fallos de los sistemas de reconocimiento facial.

En su informe de 2019, la agencia destacó que “la mayoría de los algoritmos presentan tasas de falsos positivos hasta 100 veces más altas” para rostros afroamericanos y asiáticos que para blancos, y que los errores en la identificación afectan con mayor frecuencia a mujeres y personas jóvenes. Estas conclusiones han sido citadas en audiencias del Congreso de Estados Unidos, donde el organismo recomendó no implementar sistemas de reconocimiento facial sin auditorías independientes y salvaguardas contra la discriminación.

Testimonios y denuncias sobre el reconocimiento facial en Nueva York

Organizaciones como Amnistía Internacional y la Unión de Libertades Civiles de Nueva York (NYCLU, la organización civil de derechos civiles local) han documentado testimonios de latinos afectados por sistemas de reconocimiento facial en Nueva York, aunque no en Citi Bike, sino en el contexto de la vigilancia policial y el acceso a servicios públicos.

Ángel Díaz, residente del Bronx, fue erróneamente identificado y detenido por la policía tras un error en la tecnología biométrica. “Me arrestaron basándose en una foto que no era mía”, relató Diaz en una entrevista para The Guardian publicada el 23 de diciembre de 2021. Casos como el suyo refuerzan las advertencias sobre el impacto desproporcionado de estos sistemas en comunidades minoritarias.

La campaña Ban the Scan de Amnistía Internacional y los informes de la NYCLU advierten que el uso del reconocimiento facial por parte del Departamento de Policía de Nueva York (NYPD, el Departamento de Policía de Nueva York) ha afectado especialmente a barrios con alta presencia de comunidades negras y latinas.

“El reconocimiento facial es una tecnología que refuerza el racismo sistémico” y expone a los neoyorquinos negros y latinos a una vigilancia excesiva y a detenciones injustas, señaló Matt Mahmoudi, investigador tecnológico de Amnistía Internacional, en un comunicado de la organización fechado el 4 de noviembre de 2021.

Estas organizaciones reportan que la tecnología puede reproducir y amplificar sesgos existentes, exponiendo a ciudadanos inocentes a detenciones injustificadas o exclusión de servicios. La Comisión de Derechos Humanos de la Ciudad de Nueva York, organismo municipal, también ha recibido quejas y advertencias sobre el uso de tecnología biométrica, aunque no ha documentado incidentes vinculados a Citi Bike.

Controversias políticas y debates legislativos por el reconocimiento facial en Nueva York

El debate sobre el reconocimiento facial se intensificó en Nueva York tras una investigación de Wired que reveló el uso de estas tecnologías en el Madison Square Garden, propiedad de James Dolan, para monitorear a visitantes.

Este caso motivó la intervención política de Zohran Mamdani, quien advirtió sobre el avance de la vigilancia masiva tanto en espacios públicos como privados.

Antes de asumir la alcaldía, Zohran Mamdani ocupó un escaño en la Asamblea estatal y promovió proyectos legislativos para limitar el uso de herramientas de monitoreo digital, en particular bajo control del Departamento de Policía de Nueva York.

Aunque su iniciativa no prosperó, contribuyó a la discusión sobre derechos civiles y vigilancia digital, un tema que continúa vigente en la agenda legislativa local.

Seguridad pública, derechos civiles y el futuro de la biometría facial en Citi Bike

Durante la gestión de Eric Adams, la administración respaldó la adopción de tecnologías para reforzar la seguridad. En 2022, Adams declaró: “Muchos funcionarios electos tienen miedo. Creen que es el ‘Big Brother’ observándolos. No, los está protegiendo”, defendiendo la expansión de sistemas de vigilancia y verificación biométrica.

El proyecto de verificación tecnológica también contó con el apoyo del consultor político Bradley Tusk, quien escribió una columna abogando por controles estrictos para evitar accidentes de adolescentes. Tras la suspensión, Tusk expresó su desacuerdo y sostuvo que “sería una pena que pusieran la teoría ideológica por encima de la seguridad física”.

Actualmente, el Departamento de Policía de Nueva York mantiene operativos sistemas de drones, cámaras inteligentes y reconocimiento facial, y el debate sobre el equilibrio entre seguridad pública y derechos civiles sigue abierto.

La Oficina del Defensor Público de Nueva York advierte en su último informe que la adopción de biometría facial sin garantías robustas de privacidad y equidad puede profundizar las desigualdades existentes, ya que la falta de regulaciones claras puede derivar en discriminación y exclusión de ciertos grupos demográficos.

Las conversaciones entre la ciudad y Lyft para desarrollar estrategias de verificación de edad menos intrusivas continúan, mientras el uso de biometría facial en Citi Bike permanece suspendido.