A empresa de inteligência artificial (IA) OpenAI apresentou, na última terça-feira (18), novas regras internas de cibersegurança. Elas são mais rígidas que as anteriores e serão adotadas imediatamente no treinamento de novos modelos de linguagem após uma breve paralisação nos processos para essa reavaliação.
No geral, ela agora deve supervisionar mais de perto exercícios autônomos feitos pelas plataformas, além de se preocupar mais com as pré-configurações desses modelos, garantindo ao máximo que elas não tomem atitudes questionáveis ou até criminosas.
O objetivo das diretrizes é impedir outros incidentes de invasão contra pessoas e organizações provocados por modelos de IA em fase de teste. Além do caso mais famoso, que envolveu o repositório Hugging Face, a empresa suspendeu exercícios do modelo Astra após perceber que ele poderia ser um "eventual risco".
O que muda nos treinamentos da OpenAI
Após os casos recentes, a OpenAI promoveu mudanças em vários processos diferentes das avaliações internas:
o isolamento dos modelos de linguagem será reforçado para que eles não possam fugir do ambiente controlado de simulação (sandbox) e nem tenham capacidade de acesso à internet;
a companhia também trabalhou para "remover serviços compartilhados potencialmente vulneráveis, reduzir privilégios permanentes e aprimorar os limites de segurança e confiança" dessas tecnologias;
as etapas de monitoramento foram ampliadas e agora incluem supervisão completa de todas as inferências e…
