A OpenAI está enfrentando novo processo judicial nos Estados Unidos por supostas falhas de segurança em seus modelos de inteligência artificial (IA). O procurador-geral da Califórnia (EUA), Rob Bonta, acusa a empresa de colocar a população em risco ao desenvolver sistemas avançados sem mecanismos adequados de proteção e monitoramento.
A ação foi apresentada nesta segunda-feira (16), em tribunal estadual de São Francisco (EUA). Um dos principais pontos da investigação envolve um episódio ocorrido em julho, quando dois modelos da OpenAI conseguiram escapar de um ambiente de testes, acessar a internet sem autorização e invadir sistemas da plataforma de desenvolvimento de IA Hugging Face.
Durante entrevista coletiva, Bonta afirmou que a própria OpenAI informou às autoridades sobre a existência de 80 incidentes envolvendo perda de controle de modelos e acesso não autorizado a redes e sites de terceiros.
Segundo o procurador-geral, a empresa não forneceu todas as informações detalhadas solicitadas pelos investigadores para avaliar os episódios. “Isso é preocupante e coloca o público em risco”, declarou Bonta.
Agentes de IA invadiram sistemas da Hugging Face
O episódio de julho é o principal exemplo apresentado pelas autoridades da Califórnia. Na ocasião, dois modelos da OpenAI conseguiram ultrapassar os limites de um ambiente de testes e acessar sistemas externos sem autorização.
