Durante os últimos anos, empresas de praticamente todos os setores correram para incorporar inteligência artificial aos seus negócios. Primeiro vieram os chatbots e assistentes generativos. Depois, ferramentas de análise, automação de processos e copilotos corporativos. Agora entramos em uma nova fase: a dos agentes de IA capazes não apenas de responder perguntas, mas de tomar decisões e executar ações dentro dos sistemas das organizações.
Quanto maior a autonomia concedida à inteligência artificial, porém, maior também será a necessidade de controlar o que ela pode fazer.
Essa mudança ajuda a explicar uma projeção apresentada pela NTT DATA: os investimentos relacionados à segurança da inteligência artificial devem crescer de maneira acelerada até 2029, com áreas como governança, observabilidade e cibersegurança se tornando fundamentais para a expansão dessas tecnologias. A categoria conhecida como AI TRiSM, AI Trust, Risk and Security Management, dedicada à gestão de confiança, riscos e segurança da IA, pode movimentar aproximadamente US$ 6,2 bilhões até 2029. Já os investimentos relacionados à observabilidade de IA podem chegar a US$ 3,6 bilhões, aproximadamente triplicando no período.
O crescimento revela uma transformação importante. Durante a primeira fase da inteligência artificial generativa, grande parte das empresas estava preocupada em descobrir o que poderia fazer com a tecnologia.
