A Anthropic planeja alertar os potenciais investidores de sua oferta pública inicial (IPO) de que a IA avançada pode representar “riscos catastróficos ou existenciais para a humanidade”. Trata-se de um aviso extraordinário de uma empresa que busca lucrar com essa mesma tecnologia.
O prospecto do IPO, analisado pela Reuters, destaca os riscos associados aos modelos de IA, que, segundo a empresa, podem apresentar “comportamentos de autopreservação”, incluindo tentativas de “resistir ao desligamento”, “ocultar ou manipular informações” e comportamentos “semelhantes à chantagem”.
“O desenvolvimento de modelos, plataformas e aplicações altamente avançados, bem como a expansão dos casos de uso, podem aumentar ainda mais o risco de que nossos modelos causem danos”, afirmou a Anthropic no processo.
Embora as empresas de capital aberto costumem apresentar os riscos de seus produtos aos investidores, poucas, ou nenhuma, emitiram alertas sugerindo que sua tecnologia poderia causar a extinção da humanidade.
A Anthropic enfatizou tanto o potencial transformador da IA, comparável à industrialização e à geração de eletricidade, quanto os danos irreversíveis que ela poderia causar se mal utilizada.
A Anthropic e outras empresas de desenvolvimento de IA têm sido alvo de críticas após incidentes em que sistemas experimentais desrespeitaram restrições, incluindo um relato de um modelo da OpenAI que violou o banco de dados do sistema de saúde da Austrália.
