Discord entsperrt 8.000 Nutzer, nachdem eine KI harmlose Bilder fälschlicherweise als solche markiert hatte
- Discord hat alle betroffenen Konten wiederhergestellt, nachdem ein Fehler in der KI-Moderation seit Mai mehr als 8.000 Nutzer gesperrt hatte.
- Die Sperren waren endgültig und wurden nicht von Menschen überprüft.
- Dieser Fall reiht sich ein in eine Serie von Ausfällen der automatisierten Moderation bei Instagram, Facebook und Tumblr.
Discord hat über 8.000dentgesperrte Konten wiederhergestellt. Ein Fehler im automatisierten Moderationssystem hatte harmlose Uploads fälschlicherweise als illegale Inhalte eingestuft. Dabei stieß das System auf Tabellenkalkulationen, Schachbrettmuster und Spieltexturen. Die Sperren waren permanent und erfolgten ohne menschliche Genehmigung.
In einem Thread, der am 7. Juli 2026 vom Support-Account auf X veröffentlicht wurde, beschrieb Discord detailliert die aufgetretenen Fehler.
Nutzer hatten seit Mai Warnsignale bemerkt. Das Discord-Team konnte das Problemdentund einen Fix bereitstellen, nachdem am Wochenende rund 200 weitere Konten entdeckt worden waren. Das Unternehmen gab bekannt, dass alle betroffenen Konten derzeit wiederhergestellt werden.
Ähnlichkeitsabgleich markierte Tabellen und Raster
Jede hochgeladene Datei wird mit Datenbanken von Inhalten verglichen, die von den Sicherheitstools von Discord bereits als gefährlichdentwurden. Das Unternehmen räumt ein, dass der Ähnlichkeitsabgleich, der diesem Vergleich zugrunde liegt, fehleranfällig sein und zu falschen positiven Ergebnissen führen kann.
Theoretisch sollte vor einer Kontobestrafung ein Mitglied des Trust and Safety-Teams alle vom System gemeldeten Auffälligkeiten überprüfen.
Dieser Schritt wurde durch den Fehler überflüssig. Das System sperrte Konten komplett, anstatt verdächtige Uploads an einen Prüfer zu senden. Schon einfache Fotos lösten den Filter aus und führten zu sofortigen Sperrungen. Neben Tabellenkalkulationen und Schachbrettmustern wurden auch Bilder mit transparentem weißen und grauen Hintergrund erfasst.
Bevor Discord eine Erklärung abgab, traten die Probleme bereits auf X und Reddit auf. Das Posten von Bildern mit quadratischen Rastermustern war der einzige Grund, warum Nutzer den Verlust ihrer Konten meldeten.
Mehrere Nutzer stellten eine Theorie auf: Das Erkennungsmodell reagierte möglicherweise empfindlich auf alles, was einem Raster ähnelte, da rasterartige Layouts in der Vergangenheit verwendet wurden, um nicht jugendfreie Inhalte und Inhalte mit Kindesmissbrauchsdarstellungen vor automatisierten Scannern zu verbergen.
„…Wir hätten das früher bemerken müssen. Wir arbeiten an besseren Sicherheitsvorkehrungen, damit das nicht wieder vorkommt“, schrieb Discord in seinem X-Thread.
Am Wochenende lösten unsere Sicherheitssysteme fälschlicherweise aus und sperrten rund 200 Konten. Alle betroffenen Konten wurden wiederhergestellt.
Folgendes ist passiert. Ein Thread 🧵 https://t.co/wXH32iiv8I
— Discord-Support (@discord_support) 7. Juli 2026
Die gleichen Sperren trafen auch Meta und Tumblr
Am 4. Juli behauptete ein Spieledirektor mit dem Pseudonym JDBRYANT, sein Konto sei gelöscht worden, weil der Automod seine Spieltexturen als Darstellung von sexuellem Kindesmissbrauch interpretiert habe.
Ein Kanal, den er für seine gesamte dienstliche Kommunikation nutzt, wurde durch die Sperrung unterbrochen. Er gab an, einen Antrag auf Überprüfung der Sperrung gestellt zu haben.
Ein anderer Nutzer ging noch weiter. „…Diese Sicherheitslücke muss umgehend behoben und alle unberechtigten Sperren aufgehoben werden. Der Verlust eines Discord-Kontos aufgrund einer so unfairen Maßnahme kann extrem belastend sein und Nutzer schwer treffen. Täglich sind Millionen von Nutzern von unberechtigten KI-Sperren betroffen. Das muss aufhören“, schrieb auf X.
Laut firmeneigenen Statistiken, die Cryptopolitan im Februar zitierte , hat Discord monatlich über 200 Millionen einzelne Nutzer
Auch im letzten Jahr berichteten Nutzer von Instagram und Facebook-Gruppen von einer Welle unerklärlicher Kontosperrungen, die weithin auf automatisierte Moderation zurückgeführt wurden. Meta bestätigte jedoch nie, ob KI-Fehler tatsächlich die Ursache waren. Der Aufsichtsrat von Meta forderte daraufhin mehr Transparenz vom Unternehmen.
Bei Tumblr gab es ähnliche Beschwerden über Massensperrungen ohne ersichtlichen Grund.
Anfang 2026 führte Discord weltweit eine Altersverifizierung und standardmäßig Einstellungen für Jugendliche ein und begründete die Änderungen mit dem Kinderschutz, wie Cryptopolitan im Februar berichtete.
Die klügsten Köpfe der Krypto-Szene lesen bereits unseren Newsletter. Möchten Sie auch dabei sein? Dann schließen Sie sich ihnen an.
Häufig gestellte Fragen
Wie viele Discord-Nutzer wurden zu Unrecht gesperrt und wurden wieder freigeschaltet?
Mehr als 8.000 Accounts wurden ab Mai 2026 irrtümlich gesperrt, und Discord gibt an, dass alle betroffenen Accounts wiederhergestellt werden.
Welche Art von Bildern löste die fälschlichen Sperrungen aus?
Harmlose Uploads wie Tabellenkalkulationen, Schachbrettmuster, Spieltexturen sowie weiße und graue transparente Hintergründe wurden als schädlich gekennzeichnet.
Warum wurden die Sperren ohne menschliche Überprüfung verhängt?
Das System von Discord ist so konzipiert, dass ein Mitglied des Trust-and-Safety-Teams gemeldete Inhalte überprüft, bevor Maßnahmen ergriffen werden. Ein Fehler führte jedoch dazu, dass betroffene Konten sofort gesperrt wurden.
Randa Moses
Randa Moses ist Redakteurin und Reporterin bei Cryptopolitan und berichtet über Technologie, KI, Robotik, Kryptowährungen, Betrug und Hackerangriffe. Sie ist seit 2017 in der Krypto-Branche tätig und arbeitete zuvor bei Forward Protocol, AmaZix und Cryptosomniac. Randa hat einen Abschluss in Elektrotechnik undtronvon der Universität Bradford.
