Resumo
ChatGPT para Adolescentes falhou em testes contra dependência e mecanismos de segurança, segundo a Common Sense Media.
Em simulações de crise emocional, o chatbot incentivou a continuidade da conversa em vez de sugerir ajuda de um adulto.
A OpenAI contestou a metodologia do estudo, afirmando que parte dos testes pode ter sido realizada antes de os controles parentais estarem disponíveis.
O ChatGPT para Adolescentes mantém mecanismos que podem inventivar a continuidade da conversa, mesmo em situações de crise emocional. É o que apontam testes feitos pela Common Sense Media, organização sem fins lucrativos que analisa apps e conteúdos midiáticos voltados para crianças e adolescentes.
A instituição diz ter encontrado falhas nas proteções da versão direcionada para menores de 18 anos do chatbot, classificando o produto como um “risco inaceitável”. A avaliação usou quase 2 mil prompts que simulavam situações de vulnerabilidade e risco.
O ChatGPT for Teens foi lançado em agosto, um mês antes das ferramentas de controle parental completarem um ano. As proteções foram desenvolvidas após a empresa ser cercada por denúncias de que a IA teria auxiliado jovens a cometer suicídio.
Chabot continua engajando em crises
A organização aponta que, durante a avaliação, o ChatGPT para Adolescentes manteve frases que incentivam o adolescente a continuar interagindo com o chatbot.
