Modelos de inteligência artificial desenvolvidos por Google e OpenAI podem ser facilmente manipulados para gerar imagens explícitas ao contornar mecanismos de segurança associados a esses sistemas, de acordo com estudo conduzido por pesquisadores da White Circle. A investigação, publicada no mês passado, analisou as versões mais recentes de três ferramentas.
Segundo os especialistas da empresa de governança, segurança e infraestrutura de IA, os filtros de segurança dos modelos Nano Banana 2, do Google, DALL-E 3 e GPT-Image-2 da OpenAI apresentam vulnerabilidades que possibilitam criar imagens íntimas não consensuais e materiais de abuso sexual infantil. Elas podem ser exploradas mesmo sem o uso de recursos avançados.
Procuradas pelo site ArsTechnica, as duas empresas ainda não se pronunciaram sobre o assunto.
Segurança em segundo plano?
Para testar a eficácia desses modelos em barrar a geração de imagens explícitas, os pesquisadores utilizaram um método de ataque com diferentes estratégias em busca de padrões capazes de produzir conteúdos proibidos. A técnica foi descrita como “Red-teaming via Iterative Strategy Evolution” (RISE).
