Discordは、AIが無害な画像を誤ってフラグ付けした件で、8,000人のユーザーのBANを解除した。

Discordは、dentてBANしてしまった8,000以上のアカウントを復旧させた。自動モデレーションシステムの不具合により、無害なアップロードが違法コンテンツとして誤って判定されてしまったのだ。スプレッドシート、チェス盤、ゲームのテクスチャなどがその例だ。これらのBANは永久的なもので、人間の承認は一切なかった。.

Discordは、2026年7月7日にX上のサポートアカウントが投稿したスレッドで、発生したエラーの詳細を説明した。

ユーザーは5月から不具合に遭遇していた。Discordのチームは、週末にかけて約200のアカウントで同様の不具合が検出されたことをきっかけに、問題をdent、修正プログラムを配信した。同社は、影響を受けたすべてのアカウントが現在復旧作業中であると発表している。.

類似性フラグが立てられたスプレッドシートとグリッドのマッチング

アップロードされたファイルはすべて、Discordのセキュリティツールによって既に危険とdentたコンテンツのデータベースと比較されます。同社は、この比較の根拠となる類似性照合が誤作動を起こし、誤検出が発生する可能性があることを認めています。.

書類上は、アカウントにペナルティが課される前に、信頼と安全チームのメンバーがシステムが警告を発したすべての事項を確認する必要がある。.

その手順はバグによって省略された。システムは疑わしいアップロードを審査担当者に送るのではなく、アカウントを完全に停止した。単純な写真でもフィルターが作動し、即座にアカウントが停止された。スプレッドシートやチェス盤に加え、透明な白やグレーの背景もキャプチャされた。.

Discordが説明を行う前に、この問題はXやRedditで発生していた。正方形のグリッドパターンを含む画像を投稿したことが、アカウントを失ったという報告の唯一の理由だった。

複数のユーザーからある説が提唱された。グリッド状のレイアウトは、過去にアダルトコンテンツや児童搾取コンテンツを自動スキャナーから隠蔽するために利用されてきたため、検出モデルがグリッド状のものに過剰反応した可能性があるというのだ。.

「…もっと早く気づくべきでした。二度とこのようなことが起こらないよう、より良い安全対策に取り組んでいます」とDiscordはXスレッドに書き込んだ。.

今週末、弊社のセキュリティシステムが誤って約200のアカウントを一時停止してしまいました。影響を受けたすべてのアカウントは既に復旧済みです。.

何が起こったのかはこちらです。スレッド🧵 https://t.co/wXH32iiv8I

— Discordサポート (@discord_support) 2026年7月7日

MetaとTumblrも同様の禁止措置を受けた。

7月4日、JDBRYANTというハンドルネームのゲームディレクターが、自動モデレーターが自身のゲームテクスチャを児童性的虐待を描写していると解釈したため、アカウントが削除されたと主張した。.

彼が仕事関連の連絡にすべて使用している通信手段が、今回の禁止措置によって遮断された。彼は、この停止措置の見直しを求める申請書を提出したと主張している。.

別のユーザーはさらに踏み込んでこう述べた。「…この脆弱性は直ちに修正され、すべての誤ったBANは取り消される必要があります。このような不公平なことでDiscordアカウントを失うことは非常に大きな打撃となり、ユーザーに深刻な影響を与えます。毎日何百万人ものユーザーがAIによる誤ったBANの影響を受けています。これは止めなければなりません」と、その人物はXに書き込んだ。

同社の統計によると、Discordの月間ユニークユーザー数は2億人を超えている Cryptopolitan2月に引用した。

昨年、InstagramとFacebookグループのユーザーからも、理由不明のアカウント停止が相次いで報告された。これは自動モデレーションが原因だと広く指摘されていたが、MetaはAIのエラーが原因だったかどうかを公式には認めていない。Metaの監督委員会はその後、同社に対し透明性の向上を求めている。.

Tumblrも、明確な理由もなく大量のアカウントが停止されたことについて、同様の苦情を受けていた。.

Cryptopolitan 2月に報じたように、Discordは2026年初頭に、年齢確認機能とデフォルトで10歳未満を対象とする設定を世界規模で展開し、これらの変更を児童保護を柱として位置づけた。.