A inteligência artificial teria mais de 10% de chance de “matar todos os humanos” até o fim da década, segundo Evan Hubinger, líder de teste de alinhamento da Anthropic. O alerta surgiu poucas horas depois de Jacob Coxon, pesquisador da empresa, anunciar sua saída e criticar a corrida dos laboratórios por sistemas cada vez mais avançados.
O episódio expõe uma preocupação que ganhou força entre pesquisadores envolvidos diretamente no desenvolvimento da tecnologia: o risco de sistemas avançados escaparem ao controle humano. Anthropic e OpenAI continuam trabalhando no desenvolvimento de modelos cada vez mais capazes, enquanto levantam grandes quantias de dinheiro e se aproximam de possíveis ofertas públicas de ações.
Pesquisador deixa a Anthropic
Como o Olhar Digital comentou, Coxon anunciou sua saída da Anthropic na terça-feira. Em uma publicação no X, afirmou que a Anthropic e a OpenAI não estão agindo de maneira responsável diante dos riscos envolvidos no avanço da inteligência artificial.
“Eles estão correndo diretamente rumo à superinteligência que se aprimora sozinha e apostando nossas vidas”, escreveu.
O pesquisador se referia à possibilidade de sistemas melhorarem suas próprias capacidades sem muita intervenção humana. O chamado autoaperfeiçoamento recursivo ainda não é possível, mas os laboratórios de IA trabalham para alcançar esse objetivo.
:quality(85)/f4e97b0c-fd27-46f9-ab1b-f72d03fa670b.png)
