A OpenAI afirmou nesta sexta-feira (30) que vai limitar as informações relacionadas a armas que o ChatGPT pode fornecer a adolescentes, mesmo em perguntas que parecem inofensivas. As medidas visam prevenir a violência no mundo real.
A medida surge num momento em que as empresas de IA enfrentam escrutínio crescente em relação aos riscos que os chatbots representam para jovens, e ao papel destas empresas na deteção de ameaças.
As restrições se aplicam mesmo em conversas em que não houver indícios de violência. Na prática, o ChatGPT poderá encerrar conversas automaticamente, e a OpenAI poderá pausar temporariamente as contas após várias conversas deste tipo.
A desenvolvedora também afirmou ter reforçado seu sistema de previsão de idade para direcionar usuários que, segundo estimativas, têm menos de 18 anos para a experiência voltada para adolescentes. Além disso, planeja notificar os pais caso a conta de seus filhos adolescentes seja suspensa por discussões sobre violência.
A empresa também está limitando, para todos os usuários, conversas envolvendo ataques em massa, incluindo o fornecimento de informações sobre as armas utilizadas e como foram obtidas.
A OpenAI afirmou que os adolescentes passam, em média, menos de 15 minutos por dia no ChatGPT, em seu primeiro relatório sobre o uso da plataforma por adolescentes.
