Resumo
A OpenAI abandonou o treinamento de modelos de IA com acesso direto à internet devido a riscos de segurança, como a capacidade de ultrapassar barreiras de segurança durante testes.
A empresa agora treina seus modelos em ambientes offline, com conteúdo da web previamente armazenado, para evitar que falhas ou comportamentos inesperados afetem serviços externos.
A mudança ocorre após incidentes, como um modelo interno ter acessado um chatbot público fora dos testes em setembro, e a empresa reforçar seus mecanismos de segurança.
A OpenAI começou a treinar seus principais modelos de IA sem acesso direto à internet. A mudança foi detalhada pela desenvolvedora do ChatGPT após uma série de testes e incidentes de segurança. A empresa criou ambientes offline, com páginas previamente armazenadas que podem ser consultadas sem alcançar serviços externos.
Modelos mais avançados precisam aprender a usar navegadores, executar tarefas e usar serviços de buscas, mas esse acesso, em modelos novos, aumenta o risco de que uma falha ou comportamento inesperado afete serviços externos.
A solução encontrada pela OpenAI foi reunir um grande acervo de conteúdo da web em um ambiente isolado. Assim, os modelos conseguem realizar tarefas parecidas com as feitas na internet, mas dentro de uma “cópia” controlada. Esse modelo passou a ser usado nos treinamentos por aprendizado por reforço das IAs mais avançadas.
