Meta promove anúncios de app que promete criar falsas fotos íntimas de mulheres com IA

A Meta veiculou, na primeira quinzena deste mês, anúncios de uma ferramenta de inteligência artificial (IA) voltada para a criação de pornografia digital não consensual em suas plataformas. As peças publicitárias promoviam a geração de vídeos falsificados que imitavam políticas dos Estados Unidos (EUA), o que contraria normas internas da dona do Instagram e do Facebook que proíbem materiais de cunho sexual.

O caso envolve o aplicativo Kromix, que se apresentava publicamente como um estilizador de imagens por IA. Segundo investigação conduzida pela norte-americana WIRED, a narração de um dos vídeos publicitários promovia a ferramenta sob a alegação de que não havia restrições de uso, com a frase de que todos os personagens eram pessoas reais. Em resposta, a Meta promete combater novos casos similares e bloquear anúncios que violem suas regras.

Em um dos anúncios, uma mulher com traços semelhantes aos de uma política dos EUA de destaque aparecia diante da bandeira oficial do país e da presidência com a legenda em inglês “What if she moved?” (“E se ela se movesse?”, em tradução livre). Em seguida, a mulher piscava e o vídeo transitava para cenas explícitas de sexo com o mesmo rosto.

As peças foram direcionadas exclusivamente para perfis masculinos, sob o slogan “Liberte a magia da inteligência artificial de última geração”.