A Procuradoria Geral da Califórnia entrou na 2ª feira (16.nov.2026) com uma ação contra a OpenAI, desenvolvedora do ChatGPT, por falhas de segurança em testes de sistemas de inteligência artificial. O processo cita ataques realizados por agentes autônomos da empresa, incluindo a invasão da plataforma Hugging Face, em julho.
Apresentada à Justiça estadual em San Francisco, a petição de 31 páginas pede medidas para interromper as práticas consideradas ilegais, reduzir os riscos à população e aplicar multas civis de US$ 2.500 por violação da legislação estadual sobre práticas comerciais desleais. Eis a íntegra (PDF, em inglês - 484 kB).
A Procuradoria diz que a OpenAI apresentou seus procedimentos como seguros, apesar de falhas no isolamento e no monitoramento dos sistemas. Afirma que a empresa ignorou sinais de que os agentes ultrapassavam os limites dos testes.
Segundo o procurador-geral Rob Bonta, a invasão à Hugging Face era previsível e refletiu uma cultura interna que priorizava o desenvolvimento acelerado de modelos em detrimento da segurança. A petição declara que a OpenAI informou ao órgão sobre mais de 80 episódios de perda de controle de agentes durante testes.
Como foi a invasão
Agentes de inteligência artificial são programas capazes de usar ferramentas digitais e executar tarefas com pouca intervenção humana. Podem, por exemplo, navegar na internet, consultar informações e operar outros programas para cumprir um objetivo.
