Discord irritou a comunidade
Em maio de 2026, um usuário abriu o Discord e descobriu a conta banida. Segundo a plataforma, ele tinha upado material relacionado a abuso infantil. Só que o que ele tinha subido eram texturas de jogo, apenas imagens quadriculadas de diversas cores. “Minha conta foi banida injustamente da sua plataforma por causa de um bug no automod de IA que detectou minhas TEXTURAS DE JOGO como CSAM”, escreveu ele no X (antigo Twitter).
Não foi caso isolado e muito menos o único jeito que o Discord encontrou de irritar a própria comunidade gamer este ano.
Moderação de IA é confiável?
O bug não parou nele. Entre maio e julho, mais de 8 mil contas caíram do mesmo jeito, banidas na hora e sem revisão humana. O sistema do Discord funciona comparando imagens com um banco de material nocivo conhecido e foi exatamente aí que a coisa desandou… Tabuleiro de xadrez, planilha de Excel, textura de jogo, fundo transparente, tudo isso tem o mesmo tipo de padrão quadriculado que confundiu a IA. Em apenas um final de semana de julho, mais 200 pessoas foram banidas antes da empresa perceber o erro e travar o sistema.
O Discord admitiu a falha publicamente: “Nossos sistemas sinalizam conteúdo comparando com material nocivo conhecido. Esse tipo de correspondência por similaridade pode gerar falsos positivos.” E ainda fez uma promessa: “salvaguardas melhores pra isso não acontecer de novo.”
O usuário do gancho, aliás, não é qualquer caso.
