O Discord admtiu que foram identificados sinais de risco na transmissão ao vivo na qual uma jovem foi induzida ao suicídio, mas afirmou que estes indicativos não acionaram alertas ou foram revisados. A explicação consta em documento enviado pela plataforma ao Ministério da Justiça e obtido pela CNN Brasil.
“Durante o período relevante, o servidor continha nomes, rótulos de papéis e comunicações em texto que, após revisão posterior ao incidente, foram identificados como indicadores associados a um ecossistema mais amplo de alto dano”, escreve.
“No momento do incidente, esses sinais não acionaram, de forma isolada ou combinada, aplicação automática ou revisão humana imediata. Os sistemas de aprendizado de máquina processaram os sinais disponíveis, mas não geraram alerta com nível de confiança para aplicação automatizada”, completa.
No documento, o Discord afirma que a transmissão recebeu uma classificação de risco de 0,12, enquanto o necessário para identificação automatizada é de 0,95. A plataforma argumentou que reduzir esse limiar poderia aumentar os “falsos positivos” e prejudicar seu mecanismo de proteção.
“Esse resultado está sendo reexaminado inclusive para avaliar possíveis aprimoramentos nos critérios de priorização, na sensibilidade dos modelos e no equilíbrio entre capacidade de detecção e incidência de falsos positivos”, aponta ainda.
Nessa comunicação, o Discord diz que a transmissão se iniciou às 2h20.
