Pequim passou a incluir explicitamente cenários de perda de controle sobre sistemas de inteligência artificial e visa a fortalecer suas normas de segurança e a supervisão humana.
Alertas feitos por pesquisadores da empresa norte-americana de inteligência artificial Anthropic sobre a possibilidade de modelos avançados escaparem ao controle humano e, em cenários extremos, representarem uma ameaça à própria humanidade ganharam destaque na China, onde formuladores de políticas públicas vêm se preparando para lidar com riscos semelhantes.
Apesar da corrida para desenvolver sistemas cada vez mais poderosos, marcos regulatórios e declarações oficiais de Pequim mostram que as autoridades chinesas consideram suficientemente séria a possibilidade de a IA avançada escapar à supervisão humana para incorporá-la aos seus planejamentos de segurança.
PERDA DE CONTROLE
A China passou a mencionar explicitamente cenários de perda de controle sobre sistemas de inteligência artificial em uma estrutura de segurança divulgada em setembro de 2024 sob orientação da CAC (Administração do Ciberespaço da China).
Segundo o documento, não poderia ser descartada a possibilidade de futuros sistemas de IA obterem recursos externos de forma autônoma, desenvolverem autoconsciência e buscarem fontes externas de poder, criando riscos de competição com seres humanos.
Em setembro de 2025, a CAC divulgou uma versão ampliada da estrutura regulatória.
