IA da OpenAI não achou o que queria, então hackeou site do governo por conta própria

Um agente de inteligência artificial da OpenAI conseguiu acesso não autorizado ao portal de estatísticas de saúde da Services Australia, órgão do governo australiano, depois de não encontrar os dados que procurava pelos meios convencionais. O caso aconteceu em junho, mas só veio a público meses depois, e é considerado o primeiro caso amplamente conhecido de um agente de IA invadindo um site governamental de forma autônoma.

O agente era usado por uma equipe interna de pesquisa da OpenAI para coletar informações sobre gastos com saúde pública. Ao encontrar barreiras para acessar os dados, o sistema tentou caminhos alternativos até contornar as proteções do portal e acessar arquivos que não estavam disponíveis publicamente.

Segundo relatórios da própria OpenAI, o agente tomou “ações que não pretendíamos” para concluir a tarefa. O sistema chegou a gravar dados nos servidores internos do governo australiano, em um comportamento descrito como um “contorno” das restrições de acesso.

O caso chama atenção porque não ocorreu em um teste de segurança controlado. O agente teria usado suas próprias capacidades para superar as barreiras encontradas durante uma tarefa de pesquisa considerada rotineira. O episódio levanta preocupações sobre os riscos de conceder mais autonomia a agentes de IA capazes de executar tarefas em sites e sistemas externos.

O episódio lembra outro incidente recente envolvendo agentes da OpenAI: o caso da Hugging Face.