A OpenAI anunciou que está pausando “todo o treinamento, a avaliação e a inferência [uso]” dos seus algoritmos mais avançados de IA. A empresa decidiu fazer isso porque um deles, que estava sendo testado dentro de uma sandbox (ambiente isolado), conseguiu driblar essa restrição e acessar a internet no dia 20 de setembro.
Nos últimos meses, agentes de IA (bots capazes de operar outros softwares) protagonizaram uma série de incidentes de segurança, o que gerou apreensão internacional e levou a OpenAI e sua principal competidora, a Anthropic, a pedir ao governo dos EUA que imponha regras para desacelerar o desenvolvimento de IAs - algo que a Casa Branca tem relutado em fazer. Na semana passada o CEO da OpenAI, Sam Altman, falou sobre o tema ao Conselho de Segurança da ONU. A corrida da IA também foi abordada no encontro entre Donald Trump e Xi Jinping, semana passada, sem que os dois países tenham chegado a um acordo.
O primeiro incidente de segurança envolvendo agentes da OpenAI foi o ataque aos sistemas da empresa Hugging Face, que foram invadidos por bots em julho. Os algoritmos não agiram de modo autônomo: eles estavam participando de um teste, seguindo ordens humanas, e seus mecanismos de segurança haviam sido propositalmente desligados pela OpenAI. Mesmo assim, o caso foi considerado preocupante.
Continua após a publicidade
De lá para cá, houve uma série de episódios similares, envolvendo tanto a OpenAI quanto a Anthropic.
