Ferramenta detecta deepfakes com 91% de precisão e ainda explica por que a imagem é falsa

Detectar deepfakes já é difícil. Explicar por que uma imagem é falsa é mais difícil ainda. Pesquisadores do Instituto Fraunhofer de Optrônica, Tecnologias de Sistemas e Exploração de Imagens (IOSB), na Alemanha, desenvolveram uma ferramenta que faz os dois, e com taxa de detecção entre 85% e 91%, segundo comunicado do instituto.

A ferramenta se chama RealorRender e foi desenvolvida em parceria com o Escritório Federal Alemão de Segurança da Informação (BSI), que também financia o projeto.

Como funciona

A abordagem é híbrida e inédita. Em vez de usar apenas um classificador tradicional de aprendizado profundo, a RealorRender combina dois métodos:

Primeiro, um gerador de imagens de IA tenta reconstruir a imagem analisada. Quanto mais bem-sucedida a reconstrução, maior a probabilidade de que a imagem original também tenha sido gerada por IA - afinal, uma IA consegue replicar com mais facilidade o que outra IA criou.

Em seguida, um modelo de classificação calcula o erro de reconstrução e gera uma estimativa de autenticidade em porcentagem.

“Primeiro, usamos um gerador de imagens de IA para reconstruir a imagem. Em seguida, um modelo de IA assume a classificação e realiza um cálculo híbrido do erro de reconstrução. Por fim, obtemos uma estimativa que exibe a precisão do reconhecimento em porcentagem”, explicou Andreas Specker, cientista sênior do grupo de pesquisa de Sistemas de Segurança e Assistência por Vídeo do Fraunhofer IOSB, em comunicado.