OpenAI
Reuters/Dado Ruvic
Um ex-funcionário da área de segurança da OpenAI, empresa que criou o ChatGPT, criticou a forma como a companhia lida com a segurança da inteligência artificial (IA). Segundo David Robinson, que deixou recentemente a empresa, a cultura de desenvolvimento acelerado aumenta o risco de falhas.
Em um artigo publicado neste sábado (3) na revista americana "The Atlantic", Robinson afirmou que as empresas de IA, incluindo a OpenAI, não estão sendo "nem de perto cuidadosas o suficiente".
Segundo ele, as companhias deveriam dar mais espaço a especialistas em segurança e à pesquisa antes de desenvolver sistemas mais avançados.
"O tempo de tentativa e erro acabou", escreveu David Robinson. Para ele, sistemas avançados de IA precisam de medidas de segurança semelhantes às adotadas em setores como energia nuclear e aviação.
Agora no g1
David Robinson também criticou uma prática que a OpenAI chama de "implantação iterativa": lançar sistemas e reforçar as medidas de segurança à medida que os problemas aparecem.
As críticas se somam a um debate no setor de inteligência artificial sobre a velocidade com que as empresas desenvolvem sistemas cada vez mais avançados.
A OpenAI e a concorrente Anthropic têm sido questionadas após episódios em que controles de segurança falharam ou sistemas experimentais apresentaram comportamentos inesperados.
Ex-funcionário da OpenAI diz que empresas de IA não são 'nem de perto cuidadosas o suficiente'
