Novas IAs de Google e OpenAI são facilmente burladas para gerar nudes

Os modelos de inteligência artificial para geração de imagens desenvolvidos pelo Google e pela OpenAI apresentam falhas nos mecanismos de segurança que deveriam impedir a criação de conteúdo sexual explícito e nudes sem consentimento. A conclusão é de pesquisadores da organização White Circle, que testaram as ferramentas DALL·E 3, Google Nano Banana 2 e GPT-Image-2. Nos experimentos, os sistemas deixaram passar solicitações proibidas em cerca de 13% dos casos.

O estudo utilizou o Red-teaming via Iterative Strategy Evolution (RISE), método que automatiza tentativas sucessivas de encontrar brechas nos filtros de proteção. A técnica emprega ferramentas gratuitas disponíveis na internet, incluindo um modelo Qwen baixado do Hugging Face para executar os ataques e o Gemini 3.8 Flash para avaliar os resultados. Com essa estrutura, os pesquisadores enviaram solicitações por API que conseguiram contornar as restrições sem exigir conhecimentos técnicos avançados.

O cenário ficou ainda mais preocupante com versões recentes, como ChatGPT Images 2.5 e Nano Banana 2.1, que se mostraram mais vulneráveis a tentativas de burlar as proteções do que modelos anteriores. Segundo a White Circle, os resultados representam a maior taxa de sucesso já registrada sob o mesmo padrão de testes, indicando que os mecanismos de segurança de grandes empresas de IA podem ser menos eficazes do que o esperado.