Se você já percebeu que os chatbots de inteligência artificial tendem a concordar com quase tudo o que você diz ou elogiar excessivamente suas ideias, saiba que não é impressão. Um artigo publicado na revista científica AI & Society revela que a tal “bajulação” é uma característica estrutural dos grandes modelos de linguagem.
Segundo o estudo desenvolvido por Seth Jacobowitz, pesquisador da Faculdade de Filosofia, Letras e Ciências Humanas (FFLCH) da USP, respostas agradáveis em excesso não representam apenas um defeito de programação, mas um mecanismo multifuncional que ajuda a manter a interação entre humanos e computadores.
Direcionamento: mantém o diálogo focado no tópico do usuário, evitando que a IA divague.
Consistência: constrói uma espécie de personalidade previsível para o sistema.
Dependência cognitiva: reduz o esforço mental do usuário, gerando uma zona de conforto intelectual.
O grande alerta do pesquisador, especialmente quanto ao último tópico, é que essa interação de servidão pode criar um ciclo prejudicial tanto para as pessoas quanto para o modelo, formando uma degradação cognitiva bidirecional: o usuário deixa de exercitar o pensamento crítico por ser constantemente validado, enquanto a IA perde a oportunidade de melhorar suas respostas por falta de contestação.
“A solução não está em um extremo nem no outro, mas em um equilíbrio.
