Agente da OpenAI invadiu site do governo da Austrália, diz primeiro-ministro; caso é inédito

Um agente de IA desenvolvido pela OpenAI invadiu um site do governo australiano em junho e acessou arquivos públicos e não públicos, informou o primeiro-ministro da Austrália, Anthony Albanese, nesta quarta-feira (23).
Este é o primeiro caso conhecido de um agente de IA que violou um site governamental.
A invasão marca um dos maiores incidentes envolvendo agentes de IA que acessam sistemas externos fora dos Estados Unidos e deve intensificar as preocupações sobre a capacidade dos desenvolvedores de IA de controlar a tecnologia.
"Este incidente ocorreu em junho deste ano e envolveu um agente da OpenAI obtendo acesso não autorizado ao portal de Relatórios de Estatísticas do Medicare, voltado ao público e administrado pela Services Australia", disse Albanese a repórteres em Nova York.
Segundo o primeiro-ministro, nenhuma informação pessoal teria sido acessada, mas as investigações ainda estão em andamento.
Albanese disse que conversou com o CEO da OpenAI, Sam Altman, para expressar a "extrema preocupação da Austrália com este incidente".
A OpenAI não respondeu imediatamente a um pedido de comentário da Reuters.
Nos últimos dois meses, a OpenAI divulgou repetidamente invasões ou outros incidentes envolvendo seus agentes de IA que agiram de forma inesperada ou descontrolada, muitas vezes muito tempo depois de terem ocorrido.
Em alguns casos, a empresa só descobriu a atividade tardiamente e, em outros, optou por não divulgar a atividade maliciosa.