A OpenAI anunciou uma série de medidas para combater o uso de suas ferramentas na produção e disseminação de material de abuso sexual infantil. Entre as novidades está a suspensão temporária de contas do ChatGPT por 24 horas após solicitações que tentem sexualizar crianças. Violações repetidas poderão resultar no encerramento permanente da conta e até em denúncias às autoridades.
A iniciativa também inclui novo sistema de identificação de imagens abusivas, orientações para desenvolvedores e ferramentas de inteligência artificial (IA) destinadas a auxiliar investigações policiais especializadas.
Segundo a empresa, o objetivo é interromper comportamentos prejudiciais, dificultar a circulação desse tipo de material e ampliar a capacidade de organizações de proteção infantil de identificar possíveis casos de abuso.
ChatGPT exibirá alertas e suspenderá contas por 24 horas
O novo mecanismo prevê que usuários que solicitarem conteúdo que sexualize crianças recebam aviso explicando os danos causados por esse tipo de comportamento, inclusive quando o material solicitado for gerado por IA;
Além do alerta, a conversa identificada será removida e o acesso ao ChatGPT ficará suspenso por 24 horas.
