Um pastor de 55 anos da Flórida, nos Estados Unidos, abriu um processo contra a OpenAI acusando o ChatGPT de fornecer conselhos que o “levaram à beira da morte”. Scott Winters alega que o chatbot o aconselhou a não procurar ajuda médica, mesmo depois de perguntar repetidamente sobre sintomas do que viria a se tornar uma embolia pulmonar quase fatal.
Os advogados de Winters acusaram a plataforma de diagnosticá-lo erroneamente e de forma repetida. Ao mesmo tempo, o ChatGPT teria se baseado em conversas anteriores sobre religião para assegurar o homem de que ele se recuperaria com base na fé.
O processo foi aberto no início desta semana no Tribunal Superior do Condado de São Francisco, com detalhes sobre como Scott Winters já usava o chatbot regularmente e, com o tempo, passou a consultá-lo para conselhos médicos.
Documentos na ação mostraram que o pastor teve uma “embolia pulmonar maciça devido a múltiplos coágulos sanguíneos em ambos os pulmões, o que o levou à beira da morte”.
ChatGPT aconselhou contra necessidade de ajuda médica
Capturas de tela mostraram supostas interações de Winters com o ChatGPT, em que ele pergunta ao chatbot sobre seus sintomas.
Em algumas das respostas, a plataforma teria se baseado na fé do usuário, dizendo que “Deus não projetou seu corpo para falhar infinitamente” e “Deus ainda mantém seu corpo unido, a cada batida do coração, a cada respiração, mesmo quando parece que você está à beira do colapso”.
