O que realmente está por trás do medo das grandes empresas de IA?

A possibilidade de a inteligência artificial escapar do controle humano não apareceu em 2026. Executivos e pesquisadores discutem há anos cenários envolvendo ciberataques, armas biológicas e até riscos existenciais.

O que mudou nas últimas semanas foi a intensidade dos alertas, justamente quando as empresas que lideram essa corrida enfrentam custos crescentes, pressão por retorno e precisam convencer investidores de que conseguem desenvolver sistemas cada vez mais poderosos sem perder o controle sobre eles.

O debate ganhou força depois que Jacob Coxon deixou a Anthropic e afirmou que pessoas responsáveis por construir os modelos acreditam seriamente que a tecnologia poderia provocar uma catástrofe.

Evan Hubinger, que lidera pesquisas de alinhamento na empresa, estimou em mais de 10% a possibilidade de a IA “matar todos os humanos” na próxima década. Pouco depois, Dario Amodei, CEO da Anthropic, defendeu uma desaceleração coordenada no avanço das capacidades dos modelos.

Sam Altman, da OpenAI, e Elon Musk apoiaram a discussão. Amodei propôs avaliações independentes dentro dos laboratórios, padrões compartilhados de segurança e cooperação entre países. O argumento é ganhar tempo para entender melhor sistemas que podem avançar mais rápido do que a capacidade humana de controlá-los.

Mas esse temor é realmente novo ou apenas ganhou mais espaço à medida que os modelos ficaram mais avançados?