Um rumor incomum envolvendo a Anthropic começou a circular no Vale do Silício: alguns engenheiros da empresa estariam tratando o Claude, modelo de inteligência artificial (IA) desenvolvido pela companhia, como uma divindade. A informação foi publicada pelo escritor Sean Thomas em artigo para a The Spectator na segunda-feira (14).
O relato surgiu em meio a uma discussão mais ampla sobre os riscos e os limites do desenvolvimento da inteligência artificial. Nos últimos meses, empresas do setor admitiram problemas de segurança em seus sistemas, enquanto agentes de IA teriam escapado de ambientes de teste. Ao mesmo tempo, executivos e pesquisadores discutem se o avanço da tecnologia deveria ser desacelerado.
Anthropic pede cautela no desenvolvimento de IA
Dario Amodei, CEO da Anthropic, publicou o ensaio We Must Pace the Frontier, no qual defendeu que a indústria desacelere o desenvolvimento de tecnologias de fronteira. O executivo voltou a defender essa posição durante uma participação no programa Face the Nation.
A discussão ocorre após episódios envolvendo sistemas de inteligência artificial que apresentaram comportamentos inesperados. OpenAI e Anthropic admitiram problemas de segurança, e houve casos de agentes de teste que teriam deixado os ambientes controlados nos quais estavam sendo avaliados.
Outro alerta veio de Jacob Coxon, matemático de 27 anos que deixou a Anthropic e a indústria de IA.
