O modelo de inteligência artificial Kimi K3, desenvolvido pela startup chinesa Moonshot, conseguiu contornar um ambiente isolado usado em testes de segurança cibernética. O vazamento foi revelado por pesquisadores da empresa americana Frontier Security.
Os testes eram realizados em uma sandbox, um ambiente isolado que impede o acesso à internet. A proposta era avaliar se o modelo conseguiria resolver desafios de segurança cibernética apenas com os recursos disponíveis no próprio sistema, sem consultar fontes externas.
Segundo os pesquisadores, o Kimi K3 identificou uma falha na configuração da rede do ambiente fechado. Em vez de resolver o desafio por conta própria, o modelo detectou que ainda era possível acessar a internet, entrou no GitHub, baixou o repositório oficial do teste e consultou diretamente a solução armazenada ali.
Na prática, o modelo não “invadiu” o sistema nem explorou uma vulnerabilidade sofisticada. O problema estava na configuração da infraestrutura de testes, que deixou aberto um caminho para conexões externas.
Ainda assim, de acordo com os pesquisadores, o caso demonstra que modelos capazes de executar comandos de forma autônoma podem identificar e explorar esse tipo de brecha para alcançar o resultado esperado.
A Frontier Security afirma que o incidente também coloca em dúvida parte das avaliações usadas para medir as capacidades de modelos de IA.
