A IA sai do roteiro (de novo): agente da OpenAI acessa sistema de saúde australiano sem autorização

Um agente de inteligência artificial (IA) desenvolvido pela OpenAI obteve acesso não autorizado ao portal público de estatísticas do Medicare, sistema público de saúde da Austrália, durante teste realizado pela empresa em junho. O episódio levou o governo australiano a abrir investigação para determinar exatamente quais sistemas foram acessados e quais informações foram obtidas.

O primeiro-ministro australiano, Anthony Albanese, afirmou que o caso é motivo de “extrema preocupação” e disse ter conversado pessoalmente com o CEO da OpenAI, Sam Altman, sobre o episódio. Segundo Albanese, a conversa ocorreu depois que o governo tomou conhecimento do incidente e questionou a empresa sobre o acesso realizado pelo agente.

A OpenAI informou que o episódio aconteceu durante uma avaliação interna de seus modelos. O objetivo do teste era verificar a capacidade dos sistemas de encontrar respostas e estatísticas relacionadas à Austrália. Durante a avaliação, porém, os modelos realizaram ações que não haviam sido planejadas pela empresa.