Uma rede com mais de 400 aplicativos e sites que oferecem ferramentas para criar imagens falsas de pessoas nuas foi identificada nas lojas oficiais da Apple e do Google. Segundo uma investigação publicada pela revista Wired, nesta terça-feira, 3, os programas se apresentam como serviços aparentemente inofensivos, mas podem liberar geradores de deepfake explícito após a instalação. A descoberta amplia as preocupações sobre a circulação de aplicativos que utilizam inteligência artificial (IA) para produzir imagens íntimas sem o consentimento das pessoas retratadas.
Os aplicativos, encontrados na App Store e na Google Play Store, simulam ferramentas como editores de fotografias de animais de estimação, plataformas de ensino de idiomas e programas de treinamento físico. Inicialmente, apresentam interfaces convencionais, sem indicar que oferecem recursos para produzir conteúdo pornográfico. A mudança ocorre nos bastidores: os programas enviam informações a um servidor externo, que determina se o usuário terá acesso à interface com as funcionalidades de deepfake.
De acordo com os pesquisadores responsáveis pela descoberta, não existe um critério definitivo para identificar quais usuários recebem a versão aparentemente segura e quais têm acesso aos recursos explícitos.
Um dos mecanismos identificados envolve o download do aplicativo imediatamente após o usuário clicar em um anúncio da Meta que contém imagens deepfake pornográficas.
