Deepfakes: como detectar áudios e vídeos manipulados?

É difícil para a maioria dos usuários não acreditar intuitivamente no que estão vendo ou ouvindo. No entanto, como é possível manipular fotos, vídeos e áudios com relativamente pouco esforço e experiência, é recomendável estar atento.

chamados “deepfakes” são criados com a ajuda da inteligência artificial (IA) e, quando vistos ou ouvidos normalmente, dificilmente podem ser distinguidos de vídeos reais ou gravações de voz, alerta o Escritório Federal Alemão de Segurança em Tecnologia da Informação (BSI), que oferece uma nova página temática sobre o que explica a tecnologia, os procedimentos, os perigos e como se proteger.

falsificações são chamadas de “deepfakes”, porque os métodos usados para criá-las são baseados em redes neurais profundas.

Como se proteger desses arquivos manipulados? O simples fato de conhecer sua existência e as possibilidades da IA nos leva a parar de confiar cegamente na autenticidade de qualquer gravação de vídeo ou áudio em si. É sempre importante questionar criticamente certas afirmações e sua plausibilidade.

Também pode haver evidências técnicas para expor falsificações. De acordo com o BSI, esses podem ser artefatos em transições faciais, contornos borrados, falta de expressões faciais ou exposição inconsistente em vídeos. Um som metálico ou monótono, uma pronúncia incorreta ou uma maneira artificial de falar, bem como ruídos ou atrasos não naturais, são erros típicos de falsificações de voz.

De acordo com a BSE, também poderá haver procedimentos criptográficos no futuro que liguem claramente a fonte do material de vídeo ou áudio a uma identidade e, assim, permitam evitar a falsificação. Isso também inclui inúmeros métodos para a detecção automática de dados manipulados que atualmente são objeto de estudos da comunidade de cientistas, dizem os especialistas da entidade.

dpa