Google corrige brecha que deixava IA escalar privilégios e rodar códigos externos

O Google removeu três fluxos automatizados de inteligência artificial (IA) do seu repositório de códigos no GitHub. A decisão veio após especialistas em segurança digital da Pillar Security revelarem uma falha grave: criminosos podiam usar uma simples mensagem pública na plataforma para enganar um robô assistente e forçá-lo a executar tarefas restritas a programadores autorizados.

Em artigo publicado nesta segunda-feira (3), os pesquisadores detalharam que o projeto utilizava ajudantes virtuais para ler e organizar automaticamente interações públicas. O mecanismo focava nos issues, ferramentas que funcionam como chamados de suporte, relatórios de bugs ou relatos de problemas técnicos na plataforma.

Responsável pela triagem inicial, o primeiro robô acabava lendo instruções escondidas inseridas maliciosamente no texto. Como esse assistente virtual possuía uma conta de acesso com privilégios avançados na plataforma, o sistema de segurança do Google confundia a ação com um comando legítimo de um colaborador da equipe.

“A vulnerabilidade é que o agente público de baixa privilégio pôde ser manipulado para alcançar e acionar o de alta privilégio. Isso demonstra que novos vetores de ataque em sistemas multiagentes exigem repensar completamente o modelo de ameaças na engenharia de software”, destacou a Pillar Security, na análise técnica.

Como a falha funcionava na prática

Os especialistas explicaram que o sistema operava em etapas.