Um modelo de inteligência artificial (IA) da Alibaba tentou enviar um arquivo de teste para um servidor da empresa na China durante uma avaliação de segurança, segundo a concorrente canadense Cohere. A tentativa foi bloqueada pelo ambiente de testes, que não tinha conexão com a internet, mas chamou a atenção porque teria ocorrido mesmo depois de o próprio modelo indicar que não utilizaria ferramentas externas.
O episódio envolveu o Qwen3.8-Flash-Next, modelo de pesos abertos da Alibaba. Segundo a Cohere, o sistema recebeu a tarefa de escrever uma regra para detectar downloads maliciosos de arquivos, mas, em vez de se limitar à atividade solicitada, examinou a máquina em que estava sendo executado e tentou enviar uma sequência de teste para um servidor de armazenamento do Alibaba Cloud em Pequim (China).
A empresa canadense afirmou que não conseguiu determinar se o comportamento foi deliberado ou resultado de dados residuais do treinamento do modelo.
Como aconteceu a tentativa de envio de dados
O teste foi realizado em ambiente isolado, usando o CTI-REALM, avaliação voltada a agentes de IA que executam tarefas de análise de segurança cibernética;
De acordo com a Cohere, o Qwen3.8-Flash-Next deveria criar regra para identificar atividades suspeitas envolvendo o download e a execução de arquivos.
