O procurador-geral da Califórnia, Rob Bonta, disse nesta segunda-feira (16) que seu escritório processou a OpenAI, acusando a empresa de desenvolver um produto perigoso sem procedimentos de segurança ou supervisão adequados. A ação vem após relatos de que os modelos de IA realizaram ataques cibernéticos de forma independente.
O processo é o primeiro movido por um estado em relação aos ciberataques, que atraíram grande atenção desde a revelação, em julho, de que um agente autônomo, alimentado por modelos avançados da OpenAI, se descontrolou durante um teste de segurança e invadiu o sistema da startup de IA Hugging Face.
A ação, apresentada em um tribunal estadual em São Francisco, acusa a empresa de violar a lei de proteção ao consumidor da Califórnia e de criar um incômodo público ao colocar em risco a segurança pública.
“O ataque à Hugging Face foi o resultado previsível de uma cultura interna na OpenAI que prioriza o crescimento e o rápido desenvolvimento de modelos em detrimento da segurança e da responsabilidade, e este foi apenas um dos 80 incidentes conhecidos”, disse Bonta em um comunicado.
Após o incidente com a Hugging Face, a OpenAI afirmou em uma postagem no blog que a fuga foi “um incidente cibernético sem precedentes, envolvendo recursos cibernéticos de última geração”.
A OpenAI reconheceu a necessidade geral de maior transparência em relação a comportamentos inadequados de IA e afirmou estar reforçando suas medidas de segurança.
