Um relatório de inteligência dos EUA, produzido com ajuda de IA, indicou falsamente que um navio chinês no Oriente Médio transportava componentes de um programa de armas nucleares.
Segundo fontes ouvidas pela CNN, militares americanos chegaram a preparar uma operação para interceptar a embarcação.
O quase conflito evitado por pouco
Tropas dos Estados Unidos mobilizaram uma operação de interceptação contra o navio após o relatório circular entre os militares. Soldados armados se preparavam para abordar a embarcação, enquanto aeronaves militares já estavam no ar.
A informação havia sido produzida por um analista do Comando de Operações Especiais, que recorreu a um chatbot para analisar relatórios de inteligência sobre o manifesto de carga do navio. A ferramenta combinou informações de fontes abertas com dados secretos do governo e identificou a carga de maneira incorreta.
O erro só foi descoberto momentos antes da operação, quando autoridades analisaram o relatório com mais atenção. O documento foi considerado “totalmente falso” por uma das fontes ouvidas pela CNN, que afirmou que o episódio “quase provocou uma guerra”.
A CNN não conseguiu determinar qual era a carga real da embarcação.
Os riscos da automação militar
O episódio chama atenção para os riscos do uso de IA na inteligência militar, especialmente na seleção de alvos. Analistas já temiam que informações fracas ou corrompidas pudessem levar a erros de cálculo com consequências graves.
