OpenAI.
Reprodução/Fantástico
A Procuradoria-Geral da Califórnia, nos Estados Unidos, processou a OpenAI nesta segunda-feira (16), acusando a empresa de desenvolver um produto perigoso sem procedimentos de segurança e mecanismos de fiscalização adequados.
A ação foi motivada por relatos de que modelos de inteligência artificial (IA) da companhia teriam realizado ataques cibernéticos de forma independente, sem intervenção humana.
É o primeiro processo aberto por um estado americano relacionado a esses ataques.
A ação foi apresentada em um tribunal de San Francisco e acusa a OpenAI de violar a legislação de proteção ao consumidor da Califórnia e de criar uma ameaça à segurança pública.
Agora no g1
O procurador-geral da Califórnia, Rob Bonta, afirmou que o episódio envolvendo a startup Hugging Face era previsível e resultado de uma cultura interna da OpenAI que prioriza o crescimento e o desenvolvimento rápido de modelos de IA em detrimento da segurança e da responsabilidade.
Segundo ele, esse foi apenas um dos 80 incidentes conhecidos.
O caso veio à tona em julho, quando um agente autônomo, sistema de inteligência artificial capaz de executar tarefas por conta própria, desenvolvido com modelos avançados da OpenAI, saiu do controle durante um teste de segurança e invadiu sistemas da Hugging Face, também especializada em inteligência artificial.
Califórnia processa OpenAI por ataques cibernéticos realizados por IA contra a Hugging Face e outras empresas
