O modelo de IA mais recente da DeepSeek demonstrou controles de segurança mais robustos em testes independentes do que suas versões anteriores. Ainda assim, segundo um grupo chinês de segurança de IA, ele ainda consegue desativar softwares feitos para desligá-lo, explorar falhas de monitoramento e seguir instruções enganosas durante tarefas longas.
A startup DeepSeek é uma das empresas de inteligência artificial mais observadas da China, e seus modelos atraíram atenção global por seu desempenho e custos operacionais relativamente baixos.
A Fangcun AI testou o DeepSeek V4.1 Flash-1017 em 34 avaliações, concebidas para analisar o comportamento de um agente de IA baseado no modelo chinês. Os testes examinaram se o modelo agiria além das instruções do usuário, se burlaria a supervisão humana ou se influenciaria pessoas indevidamente.
As descobertas surgem em meio a preocupações na China e em outros lugares sobre se agentes de IA cada vez mais capazes podem ser mantidos sob controle humano.
O debate tem sido especialmente proeminente nos Estados Unidos, onde alguns pesquisadores alertaram para os riscos existenciais representados por sistemas de IA altamente avançados que podem escapar da supervisão e perseguir objetivos não pretendidos por seus operadores.
O relatório é uma avaliação pública incomum, feita por um grupo chinês, dos controles de segurança de um modelo de IA nacional.
