Discord 在 AI 错误标记无害图片后解封 8000 名用户

- 自5月以来,由于AI审核错误导致8000多名用户被封禁,Discord已恢复所有受影响账户。
- 这些封禁是永久性的,且未经人工审核。
- 此事件加剧了Instagram、Facebook和Tumblr等平台在自动审核方面接连出现的失败问题。
Discord已恢复其误封的8,000多个账号。其自动审核系统存在故障,将无害的上传内容错误地标记为非法内容。它在电子表格、棋盘和游戏纹理上栽了跟头。这些封禁是永久性的,且未经任何人工批准。
在2026年7月7日其支持账户在X上发布的一条线程中,Discord详细说明了发生的错误。
用户自5月以来就遇到了红旗警告。Discord团队在周末检测到另外约200个账号后,能够识别问题并分发修复程序。该公司宣布,目前所有受影响的账号正在被恢复。
相似度匹配标记了电子表格和网格
每个上传的文件都会与Discord安全工具已识别为危险的内容数据库进行比较。该公司承认,作为比较基础的相似度匹配有可能误触发并产生误报。
理论上,在对账号进行处罚之前,信任与安全团队的一名成员应审查系统标记的任何内容。
这一步骤因漏洞而被取消。系统直接封禁了账号,而不是将可疑的上传内容发送给审核员。简单的照片导致过滤器触发,从而立即暂停账号。除了电子表格和棋盘,透明背景和灰白背景也被捕获。
在Discord提供解释之前,这一烦心事已在X和Reddit上出现。人们报告账号丢失的唯一原因是发布了带有正方形网格图案的图片。
几位用户提出了一种理论。检测模型可能对任何类似网格的内容变得敏感,因为网格状布局此前曾被用于向自动扫描器隐藏NSFW和儿童剥削内容。
"……我们应该更早发现这个问题。我们正在制定更好的保障措施,以防止此类事件再次发生,"Discord在其X帖子中写道。
本周末,我们的安全系统错误触发并封禁了约200个账号。所有受影响的用户均已恢复。
以下是发生的情况。一个帖子🧵 https://t.co/wXH32iiv8I
—— Discord支持 (@discord_support) 7月 7日, 2026
同样的封禁也波及Meta和Tumblr
7月4日,一位名为JDBRYANT的游戏总监声称,他的账号被删除,因为自动审核系统将他的游戏纹理解释为描绘儿童性虐待。
他用于所有工作相关沟通的一个频道被该封禁切断。他声称已提交请求,要求审查该暂停。
另一位用户走得更远。"……这个漏洞需要立即修复,所有误封的账号都应被撤销。因为这种不公平的事情而失去Discord账号可能会带来极其毁灭性的打击,严重影响用户,而且每天有数百万用户受到错误AI封禁的影响。必须停止这种行为,"该用户在X上写道。
据Cryptopolitan 引用的公司2月份统计数据,Discord每月拥有超过2亿独立用户。
去年,Instagram和Facebook Groups用户也报告了大规模无法解释的暂停,这通常归咎于自动审核,尽管Meta从未确认AI错误是否为此原因。Meta的监督委员会随后要求该公司提供更多透明度。
Tumblr也收到了关于大规模暂停且原因不明的类似投诉。
Cryptopolitan在2月报道,Discord在2026年初推出了全球年龄验证和默认青少年设置,将这些变化围绕儿童保护进行包装。
最聪明的加密领域人士已经在阅读我们的通讯。想加入吗?加入他们。
常见问题
有多少Discord用户被错误封禁?他们是否已被恢复?
自2026年5月起,超过8000个账户被误封,Discord表示所有受影响账户正在恢复中。
哪些类型的图片触发了误封?
无害的上传内容,包括电子表格、棋盘游戏纹理以及白色和灰色透明背景,均被标记为有害内容。
为何封禁未经过人工审核?
Discord的系统设计本应由信任与安全团队人员在采取任何行动前审核被标记的内容,但一个系统漏洞导致受影响的账户被立即封禁。

Randa Moses
Randa Moses 是 Cryptopolitan 的编辑兼记者,专注于科技、人工智能、机器人技术、加密货币、诈骗及黑客攻击等领域的报道。自 2017 年以来,她一直活跃于加密货币领域,曾担任 Forward Protocol、AmaZix 和 Cryptosomniac 等公司的职务。Randa 拥有布拉德福德大学电气工程与电子工程学位。
















