A rápida adoção da inteligência artificial (IA) nas empresas trouxe um novo desafio para os departamentos financeiros: o controle dos custos gerados pelo consumo de tokens, unidades que medem as interações com modelos de IA. Segundo relatório da Accenture, divulgado nesta quarta-feira, 29, muitas companhias estão ampliando o uso da tecnologia sem ter visibilidade sobre os gastos envolvidos, o que tem levado diretores financeiros a reavaliar estratégias de expansão e monitoramento.
De acordo com o estudo “A inteligência artificial está no seu balanço de resultados. A maioria das empresas só lê metade dele”, a dificuldade vai além da área tecnológica e envolve questões de gestão e governança.
“O custo dos meus tokens de código na nuvem está disparando, essa é uma conversa que tenho constantemente com o diretor financeiro”, afirmou Lan Guan, diretora de IA e Dados da Accenture e coautora do relatório à revista Fortune. “Os clientes estão prontos para escalar a IA, mas então se deparam com essa barreira de custo inesperada”.
Guan relata que muitos executivos recebem apenas faturas consolidadas de serviços de nuvem, sem informações detalhadas sobre quais áreas, produtos ou equipes estão consumindo mais recursos.
Um caso citado pela executiva envolve uma varejista que implementou sistemas de recomendação baseados em IA em lojas-piloto e registrou uma conta mensal de nuvem de milhões de dólares, impulsionada principalmente pelo consumo de tokens.
