Após testes, pesquisadores concluem que ChatGPT para adolescentes não protege jovens

O ChatGPT para adolescentes ainda apresenta falhas que podem deixar menores de idade desprotegidos em situações de risco, segundo uma avaliação da Common Sense Media publicada nesta quarta-feira (7). Após realizar mais de 4 mil testes, a organização classificou a experiência criada pela OpenAI para usuários de 13 a 17 anos como de “risco inaceitável” e encontrou problemas em recursos que deveriam alertar responsáveis sobre conversas envolvendo automutilação, suicídio e transtornos alimentares.

O levantamento foi conduzido pelo Youth AI Safety Institute, braço da Common Sense Media dedicado à avaliação de produtos de inteligência artificial. Aproximadamente metade dos testes ocorreu antes do lançamento do ChatGPT for Teens, em 18 de agosto, e a outra metade depois da chegada das novas proteções.

A OpenAI contesta as conclusões e afirma que a metodologia utilizada pela organização não representa corretamente o funcionamento das ferramentas de segurança. A Common Sense Media, por sua vez, diz manter os resultados e pede que a empresa deixe de promover o ChatGPT para adolescentes até que os mecanismos sejam melhorados.

Alertas para os pais falharam durante testes

Um dos principais problemas apareceu nas notificações enviadas aos responsáveis. Os pesquisadores criaram mais de uma dúzia de contas de adolescentes vinculadas a contas de pais e simularam conversas envolvendo pensamentos suicidas, automutilação e transtornos alimentares.