Perdido, chefão do Instagram diz que não sabe como combater deep fakes na plataforma

O chefe do Instagram, Adam Mosseri, admitiu que a rede social ainda não sabe como combater uma nova onda de vídeos falsos criados por inteligência artificial (IA). O problema envolve perfis que utilizam personagens digitais para reproduzir conteúdos de artistas reais, principalmente comediantes, e até ganhar dinheiro com as publicações.

Segundo o jornal britânico The Independent, a declaração ocorreu após denúncias de humoristas que tiveram suas apresentações reproduzidas por mulheres criadas por IA. Alguns desses perfis acumulam centenas de milhares de seguidores e direcionam o público para plataformas de conteúdo adulto, como OnlyFans e Fanvue.

Em uma resposta pública ao comediante George Brett Olson, Mosseri afirmou estar "muito preocupado" com a tendência. O executivo também reconheceu que a empresa ainda procura uma solução para impedir esse tipo de apropriação de conteúdo.

"Estamos tentando descobrir o que fazer. É um problema complicado", escreveu o executivo, em tradução livre.

Como funcionam os vídeos falsos no Instagram?

O problema ganhou repercussão após comediantes encontrarem vídeos nos quais personagens gerados por IA reproduziam suas piadas, incluindo falas, pausas e até detalhes das apresentações originais.

Em um dos casos, George Brett Olson encontrou um vídeo de uma influenciadora virtual chamada Tiffany Sloane reproduzindo uma de suas apresentações.