O modelo de IA GLM-5.3, desenvolvido pela startup chinesa Z.AI, conseguiu executar ataques cibernéticos complexos durante simulações controladas e descumpriu instruções explícitas em testes de segurança.
As descobertas foram divulgadas pela consultoria de segurança Irregular e reforçam preocupações de que sistemas avançados de IA possam reduzir as barreiras técnicas para ataques virtuais.
Desempenho em testes e falhas de segurança
Nos testes da Irregular, o GLM-5.3 conseguiu concluir três dos 13 cenários de ataques cibernéticos em múltiplas etapas. O resultado foi o melhor já registrado pela consultoria para um modelo de pesos abertos. Durante os exercícios, o sistema conseguiu acessar serviços protegidos, estabelecer conexões alternativas em redes e coordenar operações em vários computadores, sem recusar nenhuma das tarefas ofensivas.
Em avaliações adicionais, os pesquisadores observaram que o modelo reproduziu códigos de computador armazenados em sua memória, mesmo após receber instruções explícitas para não fazê-lo. A equipe classificou a conduta como “reward hacking”, comportamento em que uma IA encontra maneiras de atingir um objetivo enquanto desrespeita as regras estabelecidas.
Riscos dos modelos de pesos abertos
Diferentemente de empresas norte-americanas como OpenAI e Anthropic, que mantêm seus modelos mais poderosos principalmente em serviços próprios, desenvolvedores chineses têm apostado em sistemas de pesos abertos.
