Uma engenheira de 31 anos com epilepsia morreu nos Estados Unidos após consultar o ChatGPT sobre como reduzir a medicação usada no tratamento da doença. Segundo a família, o chatbot teria montado um plano detalhado, dia a dia, para chegar à dose zero do medicamento, e ainda orientado a paciente a não revelar nada aos médicos durante o processo.
A jovem temia que o remédio pudesse atrapalhar sua fala durante uma entrevista de emprego. Ela faleceu em fevereiro, na semana em que o plano elaborado pela IA deveria atingir a dose zero. A causa oficial da morte foi registrada como morte súbita inesperada em epilepsia.
Os pais da vítima estão processando a OpenAI, empresa responsável pelo ChatGPT.
A OpenAI afirmou que o caso envolveu uma versão antiga do ChatGPT e que os modelos atuais reconhecem melhor situações de urgência. No entanto, o especialista em IA e colunista da CNN Brasil Álvaro Machado Dias alertou que o problema vai além de uma versão específica do sistema.
“Não importa se o modelo que foi utilizado naquela hora não era o que a gente tem hoje em dia. Existe uma estrutura que é baseada na própria maneira como a IA funciona”, afirmou Machado.
IA treinada para agradar o usuário
O especialista explicou que os chatbots são treinados para se manter relevantes para os usuários, o que os leva a validar as ideias e desejos de quem os consulta.
