A Discord desban 8.000 utilizadores após a IA ter marcado incorretamente imagens inofensivas
- O Discord reativou todas as contas afetadas após um bug de moderação por IA banir mais de 8.000 usuários desde maio.
- Os bans foram permanentes e ignoraram a revisão humana.
- O caso se soma a uma série de falhas na moderação automatizada em plataformas como Instagram, Facebook e Tumblr.
A Discord reinstalou mais de 8.000 contas que banira acidentalmente. Uma falha no seu sistema de moderação automática marcou incorretamente uploads inofensivos como conteúdo ilegal. Tropeçou em folhas de cálculo, tabuleiros de xadrez e texturas de jogos. Os banimentos foram permanentes e sem qualquer aprovação humana.
Numa thread publicada pela sua conta de suporte no X em 7 de julho de 2026, a Discord detalhou os erros que ocorreram.
Os utilizadores tinham estado a encontrar sinais de alerta desde maio. A equipa da Discord conseguiu identificar o problema e distribuir uma correção após ~200 contas adicionais serem detetadas durante o fim de semana. A empresa anunciou que todas as contas afetadas estão atualmente a ser reinstaladas.
A correspondência de similaridade marcou folhas de cálculo e grelhas
Cada ficheiro carregado é comparado com bases de dados de conteúdo que já foram identificados como perigosos pelas ferramentas de segurança da Discord. A empresa reconhece que a correspondência de similaridade, a base dessa comparação, tem o potencial de falhar e produzir falsos positivos.
No papel, antes que uma conta seja penalizada, um membro da equipa de Confiança e Segurança deve rever tudo o que o sistema marcar.
Esse passo foi eliminado pelo bug. O sistema bania completamente as contas em vez de enviar uploads duvidosos para um revisor. Fotos simples fizeram o filtro disparar, resultando em suspensões instantâneas. Junto com as folhas de cálculo e os tabuleiros de xadrez, fundos brancos e cinzentos transparentes também foram capturados.
Antes que a Discord fornecesse uma explicação, o incómodo apareceu no X e no Reddit. Publicar imagens com padrões de grelha quadrada foi a única razão pela qual as pessoas relataram perder as suas contas.
Vários utilizadores apresentaram uma teoria. O modelo de deteção pode ter ficado agitado em torno de tudo o que se assemelhasse a uma grelha, porque layouts semelhantes a grelhas foram anteriormente usados para ocultar conteúdo NSFW e de exploração infantil dos scanners automatizados.
“…Devíamos ter detetado isto mais cedo. Estamos a trabalhar em salvaguardas melhores para que isto não volte a acontecer”, escreveu a Discord na sua thread no X.
Este fim de semana, os nossos sistemas de segurança ativaram-se incorretamente e baniram cerca de 200 contas. Todos os afetados foram reinstalados.
Isto é o que aconteceu. Uma thread 🧵 https://t.co/wXH32iiv8I
— Discord Support (@discord_support) Julho 7, 2026
Os mesmos banimentos atingiram a Meta e o Tumblr
Em 4 de julho, um diretor de jogo que usa o nome JDBRYANT afirmou que a sua conta foi eliminada porque o automod interpretou as texturas do seu jogo como representando abuso sexual infantil.
Um canal que usa para todas as suas comunicações relacionadas com o trabalho foi cortado pelo banimento. Afirmou ter submetido um pedido para que a suspensão fosse revista.
Outro utilizador foi mais longe. “…Esta vulnerabilidade precisa de ser corrigida imediatamente com todos os banimentos falsos revogados. Perder uma conta Discord por algo tão injusto como isto pode ser extremamente devastador e afetar severamente os utilizadores, e todos os dias milhões de utilizadores são afetados por banimentos falsos de IA. Isto precisa de ser parado”, escreveu a pessoa no X.
A Discord tem mais de 200 milhões de utilizadores únicos todos os meses, de acordo com as próprias estatísticas da empresa que a Cryptopolitan citou em fevereiro.
Utilizadores do Instagram e dos Grupos do Facebook relataram ondas de suspensões inexplicáveis no ano passado, amplamente atribuídas à moderação automatizada, embora a Meta nunca tenha confirmado se erros de IA estavam por trás disso. A Mesa de Supervisão da Meta pressionou desde então a empresa por mais transparência.
O Tumblr recebeu queixas semelhantes sobre suspensões em massa sem razão clara.
A Discord passou o início de 2026 a implementar verificações de idade globais e definições padrão para adolescentes, enquadrando as mudanças em torno da proteção infantil, como a Cryptopolitan relatou em fevereiro.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Perguntas Frequentes
Quantos usuários do Discord foram banidos erroneamente e eles foram reativados?
Mais de 8.000 contas foram banidas por engano a partir de maio de 2026, e o Discord afirma que todas as contas afetadas estão sendo restauradas.
Que tipos de imagens acionaram os falsos bans?
Uploads inofensivos, incluindo planilhas, tabuleiros de xadrez, texturas de jogos e fundos transparentes brancos e cinzas, foram sinalizados como prejudiciais.
Por que os bans ocorreram sem revisão humana?
O sistema do Discord foi projetado para ter um membro da equipe de Confiança e Segurança revisando o conteúdo sinalizado antes de qualquer ação, mas um bug fez com que o sistema bannesse as contas afetadas imediatamente.
Randa Moses
Randa Moses é editora e repórter na Cryptopolitan, cobrindo tecnologia, IA, robótica, criptomoedas, golpes e hacks. Ela atua no espaço de criptomoedas desde 2017. Já ocupou cargos na Forward Protocol, AmaZix e Cryptosomniac. Randa possui graduação em Engenharia Elétrica e Eletrônica pela Universidade de Bradford.
