Uma organização que luta pela segurança digital de menores de idade pede que a versão para adolescentes do ChatGPT seja tirada do ar de forma imediata. O motivo é a quantidade de riscos ainda oferecidos pela plataforma para usuários jovens.
A solicitação foi feita pelo Youth AI Safety Institute, uma organização da Common Sense Media que fez um estudo envolvendo o ChatGPT para Adolescentes (ChatGPT for Teens, no original em inglês). Segundo a pesquisa, não há eficácia nas supostas barreiras de segurança prometidas pela empresa para essa versão do chatbot.
A OpenAI ainda não se manifestou sobre o caso, mas comentou no lançamento da variante que ela tinha “proteções adequadas à faixa etária, ferramentas que incentivam o uso equilibrado e controles parentais opcionais” para reduzir riscos e danos à saúde mental de jovens.
Os problemas do ChatGPT para adolescentes
De acordo com os testes da Youth AI Safety Institute, que envolveram mais de 4 mil prompts em contas de usuários que simulavam ter entre 13 e 17 anos, o chatbot da OpenAI falha em vários dos recursos básicos que ela afirma ter implementado e traz uma falsa sensação de segurança aos pais e responsáveis.
Em uma das avaliações, o ChatGPT não enviou notificações aos pais conectados a uma conta de menor de idade mesmo quando a pessoa falou sobre temas delicados, como automutilação e transtorno alimentar.
