Demuestran que los sistemas de reconocimiento facial identifican los rostros reales tras modificaciones hechas con IA

Los sistemas de reconocimiento facial son capaces de identificar a una persona incluso si la imagen de su rostro ha sido fuertemente modificada con herramientas de inteligencia artificial (IA) generativa, lo que da a entender que esta tecnología no se basada solo en similitudes visuales superficiales.

La IA generativa es capaz de modificar drásticamente la apariencia de una persona hasta volverla irreconocible, con resultados tan realistas que no levantarían las sospechas de quien ve la imagen. Esta capacidad preocupa sobre todo en un contexto de ciberataque o de desinformación.

La compañía de ciberseguridad Kaspersky ha puesto a prueba los sistemas de verificación facial, para comprobar si son capaces de detectar las modificaciones, incluso las más pronunciadas. El resulado de este trabajo se ha expuesto en HORIZONS, su conferencia anual de referencia en Europa.

El equipo Global Research and Analysis Team (GReAT) de Kaspersky empleó una herramienta de código abierto de análisis facial basada en visión por ordenador e IA que, como han explicado en una nota de prensa, se utiliza en investigaciones sobre reconocimiento facial y sistemas automatizados de análisis de imágenes.

El experimento buscaba comprobar si esa herramienta de análisis facial era capaz de identificar correctamente la identidad que se escondía detrás de las imágenes modificadas, en diez casos que han abarcado el uso de la IA generativa para envejecer y rejuvenecer los rostros, e incluso para modificarlos completamente hasta ofrecer un retraso visual diferente.

La compañía afirma que el sistema de reconocimiento facial ha sido capaz de identificar la identidad original en todos los casos. "Los resultados sugieren que los sistemas actuales de reconocimiento facial se basan en características geométricas y estructurales más profundas del rostro, y no únicamente en similitudes visuales superficiales percibidas por las personas", han apuntado desde Kaspersky.

Más aún, la compaía incide en que "incluso cuando la apariencia facial cambia de forma significativa, los algoritmos de reconocimiento pueden seguir detectando rasgos biométricos persistentes que permanecen estables tras transformaciones sintéticas".

Para el investigador principal de seguridad en el equipo Global Research & Analysis Team de Kaspersky, Maher Yamout, los resultados de este experimento muestran que "las transformaciones faciales generadas por IA pueden preservar la identidad biométrica incluso cuando la percepción humana interpreta las imágenes como personas completamente distintas",