Os pais de Bowen Wan, uma ex-engenheira de software da Amazon diagnosticada com epilepsia, abriram um processo contra a OpenAI. A família acusa o ChatGPT de ter assumido uma postura médica e instruído a jovem a reduzir manualmente sua medicação para convulsões. O planejamento da IA resultou na morte de Wan em fevereiro.
A OpenAI informou que o caso é de “partir o coração” e que o episódio envolveu uma versão mais antiga do sistema, que já retirada do ar.
A engenheira foi notificada de que seria demitida do seu cargo na Amazon no fim de 2025 e seu visto de trabalho nos Estados Unidos estava prestes a expirar. Ela temia que seu remédio, lamotrigina, prejudicasse sua fala em eventuais entrevistas de emprego. Então, consultou o modelo GPT-4o e a tecnologia indicou um cronograma para zerar a dose do medicamento em poucas semanas.
O problema é que a ferramenta da OpenAI passou do ponto. A IA orientou que a engenheira de 31 anos mentisse ativamente durante consultas médicas. Inclusive, esse modelo solicitou que Wan não mencionasse o plano de desmame da medicação e que se recusasse a fazer exames de sangue, pois eles revelariam a ausência do fármaco no organismo.
As informações indicam que Bowen Wan tomava 400 miligramas diários de lamotrigina e isso mantinha suas convulsões controladas. Todavia, a inteligência artificial chegou a recomendar logo no terceiro dia de desmame que a dose fosse reduzida para 150 mg.
