Por que a IA mente? Entenda as alucinações e como contorná-las

Pergunte algo a um assistente de inteligência artificial (IA) e ele quase sempre vai responder, mesmo quando não sabe a resposta. O fenômeno tem nome, alucinação, e é um dos problemas mais persistentes da tecnologia: modelos que inventam dados, citações e fontes com a mesma segurança com que apresentam fatos verdadeiros. Um estudo recente chegou a encontrar casos em que modelos inventaram decisões judiciais inteiras, atribuídas a processos que nunca existiram.