Los rostros creados con IA inspiran más confianza

Las imágenes de rostros creados con IA resultan más confiables que las de personas reales, de acuerdo con una investigación difundida por el portal especializado en ciencia y tecnología Phys.org, que advirtió sobre un efecto con consecuencias directas en la desinformación política, el fraude financiero, el robo de identidad y el catfishing, la práctica de crear identidades falsas en línea para engañar a otras personas.

El estudio, publicado en la revista científica Journal of Vision, es el primero que examina la confiabilidad de rostros sintéticos generados con la tecnología de difusión más reciente. El trabajo fue dirigido por Alexis McGuire junto con Paul Taylor y Sophie Nightingale, de la Universidad de Lancaster, Maty Bohacek, de la Universidad de Stanford, y Hany Farid, de la Universidad de California en Berkeley.

El texto recuerda que los seres humanos son expertos en procesar caras reales y pueden evaluarlas automáticamente en apenas 100 milisegundos. Pese a esa capacidad, las imágenes creadas por IA ya alcanzan un nivel de realismo suficiente para llevar a error a las personas cerca de un tercio de las veces, según detalló el portal.

En una de las pruebas, 169 participantes observaron 96 rostros de manera aleatoria, con diversidad de raza, género y edad, y debían indicar si cada imagen era real o sintetizada por IA. La precisión media fue de 58,4%, apenas por encima del 50% comparable al azar de lanzar una moneda al aire.

Mayor confianza en caras sintéticas que en caras reales

El mismo experimento arrojó además un hallazgo inesperado sobre la confianza que generan los rostros sintéticos. Aquellos generados con la tecnología de difusión —la más reciente— fueron calificados como menos realistas que los producidos por GAN, una generación anterior. Aun así, en la evaluación de confianza, los rostros generados con difusión encabezaron la clasificación.

En una prueba posterior, otro grupo de participantes evaluó la confiabilidad de 96 caras presentadas al azar en una escala de uno, muy poco confiable, a siete, muy confiable. Los rostros reales recibieron la puntuación media más baja: 4,03; las imágenes creadas con GAN alcanzaron una media de 4,36. En tanto, las generadas con el modelo de difusión más nuevo llegaron a 4,70, el valor más alto entre las tres categorías analizadas.

La paradoja entre realismo y confianza

El hecho de que los rostros generados con tecnología de difusión resultaran menos realistas pero más confiables abrió preguntas sobre la percepción de realismo y el juicio de confianza. La investigadora resumió: “Este hallazgo presenta una paradoja y, por lo tanto, destaca la posibilidad de que los juicios de realismo y confiabilidad estén impulsados por dos mecanismos psicológicos diferentes“.

McGuire advirtió que los rostros generados con tecnología de difusión pueden contribuir a una erosión general de la confianza social. “A medida que las imágenes generadas por IA se vuelven más sofisticadas y más accesibles, como sociedad estamos cada vez más expuestos a rostros generados artificialmente, a menudo en escenarios maliciosos y explotadores, como la desinformación política, el fraude financiero y de identidad, y el catfishing", afirmó en referencia al estudio que lleva por título “AI-Generated Faces are Becoming More Trustworthy”.

La investigadora alertó: “Es fundamental comprender la amenaza que trae esta democratización de la IA generativa, así como desarrollar estrategias para mitigar los posibles daños a individuos, organizaciones y democracias”.