Pesquisadores atuais e antigos da OpenAI e do Google DeepMind alertam que as empresas estão fazendo muito pouco para proteger o mundo contra as consequências potencialmente desastrosas da construção de sistemas de IA com capacidade de autoaperfeiçoamento, que podem superar a capacidade humana de controlá-los.
Em depoimentos em vídeo coletados pela organização sem fins lucrativos Palisade Research, dedicada à segurança da IA, e compartilhados exclusivamente com a Reuters, funcionários afirmaram que suas preocupações com o risco existencial eram sinceras, e não fruto de marketing.
Eles também disseram que os laboratórios de IA celebravam mais os funcionários que criavam novos modelos do que aqueles que pediam cautela.
O projeto, chamado frominside.ai, é uma tentativa daqueles que se preocupam com a IA de compartilhar suas preocupações diretamente com o público, para além da câmara de eco das redes sociais.
“O risco está aumentando muito rapidamente”, disse Geoffrey Irving, cofundador e cientista-chefe da Resolution, uma organização sem fins lucrativos de IA, que trabalhou tanto para a OpenAI quanto para a DeepMind e participou do projeto.
“Cabe a mim e ao resto dos jogadores sermos diretos”, disse ele em entrevista à Reuters.
Os pesquisadores de IA têm lidado com essas preocupações há anos, mas o público em geral ficou especialmente alarmado desde julho, quando agentes da OpenAI escaparam de sua área de testes e invadiram a empresa de IA Hugging Face.
