OpenAI pausa testes de nova IA com medo de ela se rebelar

A OpenAI interrompeu parte das atividades internas de desenvolvimento de seu mais novo modelo de inteligência artificial, de codinome Astra, após avaliações de segurança identificarem avanços inesperados em suas capacidades cibernéticas. O sistema ainda não está disponível para o público ou para desenvolvedores externos e permanece em um ambiente de testes controlado. 

O alerta apareceu após o Astra apresentar uma evolução significativa em “codificação agêntica”, área em que modelos conseguem executar tarefas de programação com maior autonomia. Os resultados fizeram a OpenAI considerar a possibilidade de que o sistema tenha desenvolvido capacidades cibernéticas consideradas críticas. Por isso, a empresa desacelerou o cronograma de desenvolvimento enquanto trabalha na implementação de novas medidas de segurança.

Por que o Astra preocupa a OpenAI?

A avaliação segue os critérios estabelecidos pelo Preparedness Framework, estrutura criada pela OpenAI para acompanhar riscos associados ao avanço de seus modelos. Dentro desse protocolo, uma capacidade é considerada “crítica” quando a IA consegue identificar e desenvolver falhas de segurança de dia zero, que exploram vulnerabilidades ainda desconhecidas, em sistemas reais e protegidos sem intervenção humana.

O Astra também teria demonstrado potencial para elaborar e executar estratégias completas de ataques cibernéticos contra alvos complexos a partir de um objetivo de alto nível.