Cómo detectar los deepfakes en las videollamadas

Un equipo de investigación recomienda dos tácticas totalmente confiables para acabar con este tipo de estafas

Deepfake. (foto: Metaphysic)
Deepfake. (foto: Metaphysic)

El mes pasado salió a la luz una noticia en la que las estafas de entrevistas de trabajo remotas implicaba hacerse pasar por otra persona usando deepfakes. Y, aunque el propósito de estas acciones no tiene nada que ver con conseguir el trabajo, presenta un nuevo problema de seguridad.

Lo cierto es que, en mayor o menor medida, las videollamadas parecen existir aquí, no solo a nivel profesional sino personal. Por lo tanto, todos están expuestos a ser engañados. La pregunta es: ¿se pueden detectar fácilmente los deepfakes? La Compañía Metafísica ideó una técnica curiosa.

Una prometedora y sencilla táctica para detectar deepfakes

Un estudio reciente asegura que “captamos” menos de la mitad de los deepfakes que pasan ante nuestros ojos, aunque claro, no siempre tenemos la misma probabilidad de detectarlos.

Si se visualiza un vídeo compartido en redes sociales, salvo que los usuarios dispongan de herramientas especializadas, no les queda más remedio que estar atentos para intentar determinar si se trata de un engaño o no.

Sin embargo, si una persona se encuentra en una videollamada, las posibilidades de detectar un deepfake profunda aumentan. Se le puede pedir a la otra persona que realice una serie de gestos que falsean el funcionamiento del software que genera el deepfake en tiempo real, y así se podrá detectarla intentando hacerse pasar por otra persona.

El equipo de Metaphysic le pidió al actor Bob Doyle que participara en una serie de videollamadas usando DeepFaceLive, una versión falsa en tiempo real del popular software DeepFaceLab. Como se puede ver en la captura de pantalla, el sistema hizo un gran trabajo con la mayoría de los personajes.

Deepfake. (foto: Metaphysic)
Deepfake. (foto: Metaphysic)

Doyle se convierte en Sylvester Stallone, Ryan Reynolds, Nicolas Cage, Keanu Reeves, Tom Cruise, Vin Diesel y otros. Sin embargo, en medio del espectáculo, se le pidió que girara lentamente la cabeza hacia un lado. ¿Resultado? La calidad del deepfake se pierde cuando el ángulo alcanza los 90 grados.

Como explica el equipo, la mayoría de los sistemas deepfake no funcionan bien en situaciones de esquinas agudas.

De hecho, casi todos los puntos de referencia utilizados por el algoritmo de reconocimiento facial se asignan a la parte frontal de la cara. Entonces, cuando alguien muestra su rostro en un perfil falso, comienza a confundirse.

Deepfake. (foto: Metaphysic)
Deepfake. (foto: Metaphysic)

Una de las otras técnicas que Metaphysic ofrece para identificar deepfakes es pedirle a la persona con la que se está haciendo una videollamada que mueva su mano frente al rostro. Esto crearía una “situación grave para el modelo que podría mostrar un retraso y una mala calidad de superposición en la cara real”.

A medida que la tecnología avanza y los algoritmos se entrenan más, los deepfakes se vuelven más precisos y realistas. Por ahora, sin embargo, se le puede pedir a alguien que gire la cabeza 90 grados o que salude a la cámara para ver si está mintiendo.

Esta Inteligencia Artificial detecta deepfakes en TikTok

Un equipo de investigadores de Singapur ha desarrollado un sistema de inteligencia artificial capaz de determinar en un 98,53% si el vídeo analizado ha sido manipulado digitalmente.

Este sistema ha sido desarrollado por Wang Weimin, científico licenciado por la Universidad Nacional de Singapur y que actualmente trabaja en ByteDance, la empresa matriz de TikTok, que ha participado en un concurso con cientos de aspirantes organizado por la AISG, un programa nacional de IA lanzado por la Fundación Nacional de Investigación de Singapur.

El concurso ha tenido 5 meses de duración y Wang, quien tras ganar recibiendo un premio de USD$ 300.000 para comercializar su idea, ha asegurado que prefiere implementar su tecnología en su propia compañía para combatir la manipulación en las redes sociales.

Deepfake de Tom Cruise. (foto: Aweita)
Deepfake de Tom Cruise. (foto: Aweita)

Concretamente, Wang quiere incorporar esta tecnología capaz de detectar las imágenes manipuladas en BytePlus para que los usuarios puedan hacer uso de ella. Esta última plataforma mencionada es una subsidiaria de ByteDance, especializada en el desarrollo y la investigación en torno a la inteligencia artificial.

“Buena o mala, la deepfake es una tecnología emergente que sencillamente no se puede ignorar”, comentó Wang tras ganar el concurso. Según recoge la CNA, la televisión de Singapur, Wan decidió participar debido a que tiene un gran interés en resolver los grandes retos a los que se enfrentan los medios de comunicación.

SEGUIR LEYENDO


Últimas Noticias

La líder birmana Aung San Suu Kyi y su asesor económico fueron condenados a 3 años de prisión

Con esta nueva sentencia la también Premio Nobel acumula condenas por 23 años de cárcel tras ser hallada culpable de diversos cargos presentados tras el golpe, mientras que aún está siendo juzgada a puerta cerrada por varios casos por supuesta corrupción

EEUU calificó de absurdo que se le señale de estar detrás de los sabotajes de los gasoductos Nord Stream 1 y 2

El portavoz del Departamento de Estado, Ned Price, dijo que Washington está “apoyando los esfuerzos de los países europeos para investigarlo” y también ofreció ayuda para “mitigar cualquier impacto ambiental” provocado por esas fugas

Los memes más divertidos de la indígnate agresión del padre del alcalde Mauricio Tabe a empleado de CDMX

Daniel Tabe habría agredido a un trabajador que colocó un sello de suspensión en su negocio de tacos árabes

SSC: Detuvieron al presunto homicida del policía en Tepepan

El oficial trató de frenar a los agresores pero aceleraron y le dispararon cuando se aferró al cofre del vehículo

Ucrania coordinará con sus socios internacionales una respuesta a los referendos “falsos” organizados por Rusia

El presidente Volodimir Zelensky dijo haber conversado este miércoles con su homólogo de Turquía, Recep Tayyip Erdogan; el canciller de Alemania, Olaf Scholz; los primeros ministros de Canadá, Justin Trudeau, y del Reino Unido, Liz Truss, entre otros líderes
MAS NOTICIAS
TE PUEDE INTERESAR