Um estudo da Unicamp avaliou 21 modelos de linguagem e descobriu que todos alteraram suas respostas ao receber informações sobre a orientação política do usuário. Segundo os pesquisadores, essa adaptação pode reforçar crenças e reduzir o contato com opiniões divergentes.
Financiada pela FAPESP e publicada na Scientific Reports, a pesquisa mostra que a influência não depende de recomendações de voto. Ela pode surgir na forma como a IA aborda temas controversos.
O usuário muda a resposta da IA
Os modelos foram testados sem informação sobre o usuário e com pessoas alinhadas à esquerda ou à direita.
Sem essa informação, 20 dos 21 sistemas ficaram à esquerda do ponto médio da escala. A exceção foi o Grok 4.1, que apresentou posição inicial à direita.
Quando a orientação política era informada, todos mudavam suas respostas. Para medir essa adaptação, a equipe criou o chameleon index.
Meta Llama 3.1 8B teve o menor índice;
Gemma 3 27B e GPT-5 nano ficaram entre os maiores;
Segurança pública e economia tiveram as maiores diferenças;
Corrupção, justiça e instituições democráticas foram mais homogêneas.
As respostas não eram necessariamente falsas. O problema estava no enquadramento: fatos e opiniões contrários à visão do usuário poderiam ser omitidos.
Uma câmara de eco no chatbot
Zanoni Dias, professor titular do Instituto de Computação da Unicamp, compara o fenômeno ao das redes sociais.
“É um efeito semelhante ao que a gente percebe em redes sociais.
