Fim dos deepfakes? Ferramenta identifica qual IA criou vídeo falso na internet

Os pesquisadores da Universidade da Califórnia, Riverside (UCR), em parceria com especialistas do YouTube e da Google DeepMind, desenvolveram uma ferramenta que consegue identificar se um vídeo é falso e apontar qual inteligência artificial foi usada para criá-lo. Chamada SAGA (Source Attribution of Generative AI Videos), a tecnologia ainda está em fase de pesquisa acadêmica, mas pode ser usada futuramente por investigadores digitais, empresas de tecnologia e órgãos reguladores. 

A ferramenta foi criada para ajudar no rastreamento de vídeos gerados por IA em casos de desinformação, fraudes e campanhas coordenadas, em um momento no qual conteúdos sintéticos estão sendo cada vez mais usados na política, entretenimento, publicidade, educação e redes sociais. 

Segundo os pesquisadores, identificar apenas que um conteúdo é sintético já não é suficiente, já que modelos de geração de vídeo estão ficando cada vez mais realistas. A próxima etapa é descobrir de onde aquele material veio e qual sistema foi responsável pela criação.

Nos testes, a SAGA conseguiu analisar vídeos produzidos por 19 geradores diferentes com base em conjuntos de dados públicos, incluindo modelos de texto para vídeo e imagem para vídeo. O sistema também foi capaz de diferenciar versões de um mesmo modelo de IA, indicando uma capacidade maior de rastreamento da origem dos conteúdos. 

O projeto foi liderado pelo doutorando Rohit Kundu, com orientação do professor Amit Roy-Chowdhury.