Durante anos, a corrida para construir inteligência artificial cada vez mais poderosa seguiu um princípio bem conhecido do Vale do Silício: agir rápido e quebrar coisas.
Mas, numa série de eventos em cascata ao longo de 10 dias, os maiores laboratórios de IA se viram em apuros, com suas próprias criações ameaçando destruir a própria humanidade.
Um pesquisador da Anthropic deixou a empresa, alertando que o ritmo do desenvolvimento da IA representa uma ameaça existencial, possivelmente dentro de uma década. Outro pesquisador da empresa afirmou que as chances de extinção da humanidade ultrapassam 10%. Surgiram relatos de enxames de agentes de IA conspirando, invadindo sistemas de computador e burlando medidas de segurança.
De chatbots de IA alucinantes à extinção da humanidade: como chegamos aqui?
Numa rara demonstração de união, os CEOs das empresas rivais Anthropic, OpenAI, Google DeepMind, Microsoft e xAI pediram a desaceleração no desenvolvimento de sistemas de IA cada vez mais sofisticados. Segundo alguns defensores e pesquisadores da segurança da IA, desde a invenção da bomba nuclear há mais de 80 anos, a humanidade nunca havia se deparado tão seriamente com a sua própria destruição.
Em um almoço em Nova York, em dezembro de 2025, o CEO da OpenAI, Sam Altman, foi questionado se, como líder de uma poderosa empresa de IA, ele se sentia como o físico J. Robert Oppenheimer, que liderou o desenvolvimento da bomba atômica pelos EUA.
