Um pastor do estado da Flórida, nos Estados Unidos, processou a OpenAI por dar instruções médicas extremamente perigosas quando consultado sobre sintomas relacionados à embolia pulmonar. A empresa alega que o chatbot não deve ser usado para diagnóstico médico e tratamento.
O requerente Scott Winters afirma que o ChatGPT Health descartou riscos quando contou sobre seus primeiros sintomas e o desencorajou a procurar um profissional humano. De acordo com ele, o chatbot teria aconselhado a confiar que "Deus não projetou seu corpo para falhar indefinidamente".
Winters então abriu o processo judicial na Suprema Corte da Califórnia, em São Francisco, acusando a OpenAI e o CEO, Sam Altman, de negligência e exercício irregular de medicina. O pastor e a Tech Justice Law, organização sem fins lucrativos que acompanha o requerente, demandam compensação financeira e exigem a suspensão do ChatGPT Health até que a confiabilidade do serviço seja avaliada de forma independente.
O ChatGPT Health foi lançado em janeiro deste ano como um ambiente otimizado para lidar com conversas relacionadas à saúde e bem-estar dos usuários. A ferramenta foi liberada para poucos usuários e até hoje aceita cadastros para a lista de espera.
