Resumo
A OpenAI desmontou sua equipe de preparedness, responsável por avaliar riscos graves ou catastróficos envolvendo modelos de inteligência artificial, segundo o Financial Times.
Funcionários experientes foram realocados para setores como biologia e cibersegurança, onde continuarão a trabalhar na mitigação de riscos.
As mudanças ocorrem em meio à preparação da OpenAI para sua estreia na bolsa de valores, com expectativa de atingir um valor de mercado de US$ 1 trilhão.
A OpenAI teria realocado profissionais e acabado com sua equipe de preparedness, responsável por avaliar riscos graves ou catastróficos envolvendo os modelos de inteligência artificial desenvolvidos pela empresa, bem como por trabalhar para mitigar esses riscos.
As informações são do jornal Financial Times, em uma reportagem sobre as reorganizações da OpenAI às vésperas de fazer sua estreia na bolsa de valores.
Greg Brockman, co-fundador e presidente da OpenAI, declarou à Wired que os avanços técnicos da empresa exigem salvaguardas mais robustas e que as mudanças foram feitas para integrar de modo mais profundo pesquisas e segurança no desenvolvimento dos modelos.
A questão da segurança da OpenAI está sob atenção pública desde que um modelo da empresa “escapou” de um ambiente de testes e invadiu sistemas de outras companhias.
O que a OpenAI fez com sua equipe de gestão de riscos?
