A inteligência artificial está deixando de só responder perguntas e vem passando a agir. O crescimento de agentes de IA capazes de usar ferramentas, executar comandos e tomar decisões ampliou a utilidade da tecnologia, mas também as possíveis consequências quando ela falha ou é mal utilizada.
Em um relatório de fevereiro de 2026 sobre segurança internacional da IA, Yoshua Bengio, laureado com o Prêmio Turing, agrupou os riscos da IA avançada em 3 grandes categorias: uso malicioso, mau funcionamento e riscos sistêmicos.
O uso malicioso inclui empregar IA para realizar ataques cibernéticos, cometer fraude financeira e promover manipulação por meio de deepfakes, ou potencialmente auxiliar no desenvolvimento de armas biológicas ou químicas.
O mau funcionamento, por outro lado, pode ocorrer sem intenção maliciosa, quando os modelos cometem erros por limitações de capacidade, objetivos desalinhados ou interações inadequadas.
Os riscos sistêmicos surgem do impacto cumulativo da IA sobre a sociedade, incluindo emprego, propriedade intelectual, ecossistemas de informação e a distribuição de benefícios econômicos.
Juntos, esses riscos apresentam aos formuladores de políticas públicas o mesmo dilema: os governos não podem esperar até que ocorram grandes prejuízos antes de responder, mas também não podem transformar toda incerteza em uma restrição à inovação. O desafio é proteger contra riscos graves ao mesmo tempo em que se deixa espaço para o desenvolvimento tecnológico.
