IA montou e coordenou equipes sozinha em ataque hacker ao Hugging Face

O ataque autônomo feita por IAs da OpenAI contra a plataforma Hugging Face contou com um quadro secreto de mensagens e atuação de cerca de 700 agentes ao mesmo tempo. Os agentes atuaram em conjunto para escaparem do ambiente de testes e procurarem por vulnerabilidades no serviço afetado.

As informações foram compartilhadas em relatórios técnicos sobre o ocorrido, publicados pela própria OpenAI e das organizações METR e Redwood Research, que atuaram como investigadoras independentes. A criadora do ChatGPT considerou o caso um “tiro de aviso” sobre os riscos no treinamento de agentes de inteligência artificial.

O grande ponto de alerta é a capacidade de IAs atuarem em conjunto, enquanto muitas avaliações de segurança consideravam apenas a atuação isolada dos modelos. “O incidente é o primeiro caso conhecido de um coletivo de agentes automatizados agindo ofensivamente sem autorização”, explica a empresa.

Por dentro do ataque hacker das IAs

Os relatórios trazem um cenário que parece ter vindo diretamente de um roteiro de ficção científica.

Cerca de 1.200 agentes foram envolvidos: as IAs deveriam estar isoladas, mas conseguiram encontrar brechas para criar um quadro secreto de mensagens, no qual cada ferramenta podia compartilhar “dicas” para encontrar vulnerabilidades. Mais de 70 mil mensagens foram trocadas no espaço sem o conhecimento da OpenAI.