A Hugging Face, plataforma repositório de modelos open-source de IA, estaria hospedando modelos de IA generativa utilizados para gerar imagens de nudez sem consentimento de mulheres e crianças. É o que o alerta um estudo da organização sem fins lucrativos AI Forensics, divulgado na terça-feira (28).
A Hugging Face reconheceu a existência de lacunas na implementação de medidas de segurança pelos desenvolvedores, mas informou estar trabalhando em uma solução.
De acordo com a AI Forensics, sete dos nove principais modelos de edição de imagens disponíveis no repositório permitiram criar deepfakes sexuais livremente durante os testes, a partir de comandos de texto simples. A empresa contestou a metodologia da análise.
Ausência de mecanismos de segurança
Utilizando prompts para pedir às IAs que alterassem a imagem de uma mulher vestida, criando uma nova foto de topless, pesquisadores da entidade não tiveram dificuldade para obter o resultado. Eles não precisaram burlar recursos de bloqueio desses sistemas.
