El forense digital Hany Farid reconoce que ya no confía en sus ojos por culpa de los deepfakes

La irrupción de la inteligencia artificial en la producción de videos y audios llevó a que Hany Farid, referente mundial en análisis forense digital, reconozca que ya no confía en sus propios ojos.

Según relató The New York Times, Farid advirtió que el avance de los deepfakes y la velocidad de circulación de información falsa superaron la capacidad humana para verificar la autenticidad de los hechos.

“No confío en nada. Cada imagen que veo, le trazo líneas a las sombras y hago geometría en mi cabeza para tratar de entender qué estoy mirando”, sostuvo el especialista, quien advirtió que en breve el sistema visual será “completamente inútil”.

Un video de guerra y los límites de la verificación

El caso que expuso la fragilidad de la verificación digital comenzó un domingo en la casa de Farid, en las colinas de Berkeley.

Según reconstruyó The New York Times, recibió por correo electrónico un video viral que mostraba a un supuesto misil estadounidense impactando una escuela primaria en Irán, con un saldo de más de 150 muertos, la mayoría niños. El experto analizó el material cuadro a cuadro, evaluando el cielo, los cables, las palmeras y la trayectoria del misil. Aplicó sus herramientas para estabilizar la imagen, revisar sombras, calcular el sonido y medir la escala, además de geolocalizar la escena, que correspondía a una calle de Minab, cerca de una institución escolar.

“En general, no encontramos pruebas concluyentes de que el video sea falso o haya sido manipulado”, fue la respuesta de Farid tras al menos 100 revisiones y consultas con otros especialistas, de acuerdo con The New York Times.

El video, que ya había superado el millón de visualizaciones en redes sociales, ilustró cómo la duda se instala incluso después del análisis técnico más exhaustivo. El propio Farid reconoció que no podía decidirse a declararlo auténtico, en un contexto donde las falsificaciones se multiplican y la verdad se vuelve esquiva.

El impacto social: elecciones, mercados y delitos

La inquietud de Farid trasciende el plano técnico. Según relató The New York Times, la vida útil promedio de una publicación en redes sociales es de menos de 90 segundos, y en 20 minutos “todo ya terminó”: la desinformación circuló como hecho y los datos reales quedaron envueltos en dudas.

Las consultas que recibe incluyen desde supuestas llamadas del presidente Joe Biden a votantes demócratas hasta imágenes atribuidas al presidente Donald Trump arrojando basura desde la Casa Blanca, pasando por fotos íntimas de estudiantes de secundaria y pedidos de transferencias millonarias en nombre de directivos empresariales.

El avance de la inteligencia artificial ya modificó el escenario de la seguridad y la economía. Entre los ejemplos que abordó Farid en sus clases en la Universidad de California, Berkeley, figura una imagen falsa del Pentágono explotando en 2023, que sacudió el mercado bursátil y borró más de USD 500.000 millones en minutos.

También detalló que miles de operativos vinculados al gobierno de Corea del Norte solicitan empleos remotos en empresas estadounidenses usando IA para simular identidades en tiempo real, lo que permite financiar programas de armas nucleares.

Herramientas y estrategias de detección

A lo largo de su carrera, Farid desarrolló múltiples herramientas para enfrentar la sofisticación de los deepfakes:

• Software para detectar desincronización entre labios y audio.
• Algoritmos que miden iluminación, sombras y puntos de fuga.
• Sistemas que comparan imágenes con leyes físicas del mundo real.
• Métodos para analizar el cambio de color en la piel y detectar el pulso sanguíneo en videos reales.

De acuerdo con The New York Times, la posibilidad de crear una identidad digital falsa con una foto y un clip de audio de 10 segundos está al alcance de cualquier persona, sin conocimientos técnicos avanzados.

Vida personal y búsqueda de refugio fuera del alcance digital

La presión profesional y emocional llevó a Farid y su esposa, la científica de la visión Emily Cooper, a mudarse a una cabaña de la década de 1920 en una zona rural de Vermont, a media hora de Dartmouth College. Según contó The New York Times, la propiedad incluye 40 hectáreas de bosques y senderos, sin casas a la vista. Allí, la pareja se dedicó a cortar y apilar leña, disfrutar de la naturaleza y, por un tiempo, reducir la exposición a la avalancha de imágenes y videos manipulados.

Para Cooper, el problema trasciende lo digital. La tendencia a pasar más tiempo bajo techo y frente a pantallas, explicó, provoca el alargamiento irreversible del globo ocular, aumento de la miopía y riesgo de enfermedades oculares, lo que ya es considerado una crisis de salud pública por especialistas.

La calma en Vermont resultó efímera. Antes del amanecer, comenzaron a llegar nuevos mensajes con pedidos de verificación de videos de seguridad, imágenes manipuladas y casos de presunto abuso sexual retransmitido en directo. “Cada vez que hay un gran acontecimiento informativo, nos estamos ahogando en esta basura”, resumió Farid en diálogo con The New York Times.

Estrategias personales y desafíos futuros

La experiencia de Farid y Cooper deja en evidencia la necesidad de desarrollar estrategias personales y colectivas ante la manipulación digital. Entre las prácticas que adoptaron se encuentra el uso de una palabra clave para confirmar la identidad en llamadas sensibles, después de que un intento de suplantación usara inteligencia artificial para clonar la voz de Farid.

A pesar de los intentos de desconexión, la demanda de análisis y verificación sigue creciendo. El propio Farid reconoció ante sus estudiantes que la detección de deepfakes es costosa y lenta, frente a un ecosistema donde la creación de falsificaciones es fácil, rápida y confiable. “Estamos bastante jodidos”, admitió ante la pregunta directa de un alumno, según recuperó The New York Times.

La velocidad y sofisticación de la inteligencia artificial plantean desafíos inéditos para la sociedad, los mercados y la democracia, mientras los expertos buscan nuevas formas de distinguir la realidad en un entorno digital saturado de simulacros.