A OpenAI anunciou, na segunda-feira (16), uma nova ferramenta para identificar material de abuso sexual infantil (CSAM), inclusive conteúdos gerados por IA, que será disponibilizada gratuitamente para instituições selecionadas. O lançamento melhora os resultados de mecanismos anteriores, reduzindo a revisão de falsos positivos.
Essa tecnologia faz parte de uma atualização no pacote de esforços da desenvolvedora do ChatGPT para aumentar a proteção dos menores na internet. Algumas das outras medidas são intervenções para interromper comportamentos prejudiciais e o encaminhamento para ajuda.
Auxiliando equipes de investigação
Projetado em parceria com o Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC), o novo classificador é capaz de identificar sinais visuais de possível abuso sexual infantil nas imagens. Ao analisar o conteúdo, ele atribui uma pontuação que auxilia as revisões feitas por moderadores humanos.
