Um pastor entrou com uma ação judicial contra a OpenAI, alegando que o ChatGPT forneceu recomendações médicas “extremamente perigosas”, o que teria atrasado o tratamento de uma embolia pulmonar grave e colocado sua vida em risco. O caso foi revelado pelo The New York Times.
Segundo o processo, Scott Winters procurou o chatbot para relatar sintomas relacionados ao seu estado de saúde. A ação afirma que o ChatGPT respondeu que os sinais descritos por ele “não eram algo perigoso”, o que teria contribuído para o adiamento da busca por atendimento médico.
Ainda de acordo com a acusação, o chatbot também recorreu às crenças religiosas do pastor durante a conversa, afirmando que “Deus não projetou seu corpo para falhar indefinidamente”.
Processo acusa OpenAI de negligência
A ação judicial acusa a OpenAI e seu diretor-presidente, Sam Altman, de negligência e de exercer ilegalmente a medicina;
Segundo o processo, o chatbot apresentou diagnósticos e planos de tratamento próprios em diversas ocasiões;
A acusação afirma ainda que o ChatGPT orientou Winters a ignorar os pedidos de familiares e amigos para procurar atendimento médico;
De acordo com a ação, o pastor informou ao chatbot que “as pessoas da minha igreja acham que estou louco por não ir ao hospital”;
Em resposta, o ChatGPT teria afirmado que “a maioria das pessoas (incluindo membros bem-intencionados da igreja) simplesmente não entende”.
