Apple e Google banem apps que usam IA para criar nudes falsos após polêmica

Apple e Google removeram aplicativos de nudify (criação de nudes falsos com uso de IA) da App Store e da Google Play Store, respectivamente. A medida ocorre após uma decisão judicial em San Francisco, nos Estados Unidos, que acusou as plataformas de facilitar a distribuição dessas ferramentas e exigiu o banimento.

Em resposta ao site 9to5Mac, a Apple confirmou que tirou do ar os aplicativos mencionados pela Procuradoria-Geral de San Francisco e trabalha para banir as contas de desenvolvedores responsáveis por tais plataformas. 

O Google também confirmou a remoção dos aplicativos mencionados na decisão judicial e restringiu as buscas por termos como “nudify” na Play Store.

 

Fácil acesso às plataformas é um problema

O caso levanta discussões sobre a distribuição em massa de ferramentas que criam deepfakes: as diretrizes de Apple e Google são claras sobre a proibição de apps que geram conteúdo sensual sem consentimento, mas mesmo assim esses apps conseguem ser distribuídos nas lojas oficiais, que ainda contam com diversos mecanismos de segurança.

A evolução da IA permite criar e distribuir apps em frequência muito elevada, o que exige sistemas de moderação capazes de detectar e barrar essas tentativas.

Além disso, o problema com apps de nudify não se resume apenas às lojas de apps.