Virou bagunça: detector de IA do Instagram rotula fotos reais e ignora imagens 100% falsas

O sistema de rotulagem de inteligência artificial da Meta está gerando situações contraditórias no Instagram. Fotografias reais que receberam apenas pequenas edições ou foram ajustadas com ferramentas assistivas de IA podem ganhar automaticamente o rótulo “Conteúdo de IA”, enquanto imagens totalmente criadas por modelos generativos conseguem aparecer na plataforma sem qualquer aviso. 

A inconsistência não é exatamente nova. Em 2024, poucos meses após lançar o selo “Made by AI”, a Meta já havia enfrentado críticas por identificar como conteúdo gerado por IA imagens que tinham passado por alterações consideradas simples pelos próprios criadores.

Na época, a empresa afirmou que ajustaria o sistema para levar em conta a “quantidade de IA usada em uma imagem” e citou padrões da indústria, como metadados IPTC e C2PA. Mesmo assim, a companhia não detalha quais sinais são analisados atualmente, e novos relatos mostram que o problema continua.

Usuários relatam rótulo de IA em fotos reais

No Threads, há relatos de pessoas que receberam o rótulo “Conteúdo de IA” depois de usar o removedor de fundo do Canva ou recursos para eliminar pequenas imperfeições de uma fotografia. Inclusive, a página de ajuda do Canva afirma que a ferramenta de remoção de fundo não adiciona metadados de conteúdo gerado por IA ao design.

A estrategista de conteúdo Jess Bruno relatou, no Threads, um caso semelhante com o Canva.