Discord يرفع حظرًا عن 8,000 مستخدم بعد أن صنف الذكاء الاصطناعي بشكل خاطئ صورًا بريئة

أعاد ديسكورد تفعيل أكثر من 8,000 حساب حظرت عن طريق الخطأ. حيث أثار خلل في نظام المراجعة الآلية الخاص به علامات تحذير خاطئة على تحميلات غير ضارة بوصفها محتوى غير قانوني. وتعثر النظام مع جداول البيانات ولوحات الشطرنج وملمعات الألعاب. وكان الحظر دائماً ودون أي موافقة بشرية.

في منشور على شكل سلسلة نشره حساب الدعم الخاص بـ Discord على منصة X في 7 يوليو 2026، قدّمت الشركة تفاصيل عن الأخطاء التي حدثت.

كان المستخدمون يواجهون مؤشرات خطر منذ مايو. وتمكنت فريق ديسكورد من تحديد المشكلة وتوزيع إصلاح بعد اكتشاف حوالي 200 حساب إضافي خلال عطلة نهاية الأسبوع. وقد أعلنت الشركة أن جميع الحسابات المتأثرة يتم إعادة تفعيلها حالياً.

كشف مطابقة التشابه عن جداول بيانات وشبكات

يتم مقارنة كل ملف مرفق بقواعد بيانات للمحتوى الذي تم تحديده مسبقاً كخطر بواسطة أدوات الأمان الخاصة بديسكورد. وتقر الشركة بأن مطابقة التشابه، التي تشكل أساس تلك المقارنة، لديها إمكانية حدوث أخطاء وإنتاج نتائج إيجابية كاذبة.

نظرياً، قبل معاقبة أي حساب، يجب على عضو في فريق الثقة والسلامة مراجعة أي شيء يحدده النظام.

تم استبعاد هذه الخطوة بسبب الخطأ البرمجي. قام النظام بحظر الحسابات بالكامل بدلاً من إرسال التحميلات المشكوك فيها إلى مراجع. تسببت الصور البسيطة في تفعيل الفلتر، مما أدى إلى تعليق فوري للحسابات. بالإضافة إلى جداول البيانات ولوحات الشطرنج، تم التقاط الخلفيات البيضاء والرمادية الشفافة أيضًا.

قبل أن يقدّم Discord توضيحًا، انتشر الإزعاج على منصتي X وReddit. كان نشر صور تحتوي على أنماط شبكية مربعة هو السبب الوحيد الذي دفع المستخدمين للإبلاغ عن فقدان حساباتهم.

طرح عدد من المستخدمين نظرية مفادها أن نموذج الكشف قد يكون أصبح حساسًا تجاه أي شيء يشبه الشبكة، حيث تم استخدام التخطيطات الشبيهة بالشبكة سابقًا لإخفاء المحتوى غير اللائق ومحتوى استغلال الأطفال عن الماسحات الآلية.

«…كان ينبغي علينا اكتشاف هذا في وقت أقرب. نحن نعمل على وضع ضوابط أفضل حتى لا يتكرر هذا الأمر»، كما كتب ديسكورد في منشوره على منصة إكس.

في عطلة نهاية الأسبوع، قام نظامنا الأمني بتفعيل التنبيه بشكل خاطئ وحظر حوالي 200 حساب. وقد تم إعادة جميع المتأثرين إلى حالتهم السابقة.

إليك ما حدث: سلسلة 🧵 https://t.co/wXH32iiv8I

— دعم Discord (@discord_support) يوليو 7، 2026

وشملت نفس عمليات الحظر منصتي ميتا وتومبلر.

في الرابع من يوليو، ادعى مخرج لعبة يستخدم اسم المستخدم JDBRYANT أن حسابه تم حذفه لأن نظام المراقبة الآلي فسّر نسيج اللعبة الخاص به على أنه يصور الاعتداء الجنسي على الأطفال.

وقد قطع الحظر القناة التي كان يستخدمها لجميع اتصالاته المتعلقة بالعمل. وادعى أنه قدم طلبًا لمراجعة التعليق.

مستخدم آخر ذهب إلى أبعد من ذلك قائلاً: «…يجب معالجة هذا الثغرة الأمنية فورًا مع إلغاء جميع الحظر الخاطئ. إن فقدان حساب Discord بسبب أمر غير عادل كهذا يمكن أن يكون مدمرًا للغاية ويؤثر بشدة على المستخدمين، وملايين المستخدمين يتأثرون يوميًا بحظر الذكاء الاصطناعي الخاطئ. يجب وقف هذا»، كما كتب الشخص على منصة X.

يبلغ عدد مستخدمين Discord الفريدين أكثر من 200 مليون مستخدم شهريًا، وفقًا لإحصائيات الشركة نفسها التي استشهد بها موقع Cryptopolitan في فبراير.

أبلغ مستخدمو مجموعات إنستغرام وفيسبوك عن موجات من الإيقاف غير المبرر العام الماضي أيضًا، يُعزى على نطاق واسع إلى التدقيق الآلي، رغم أن ميتا لم تؤكد أبدًا ما إذا كانت أخطاء الذكاء الاصطناعي وراء ذلك. ومنذ ذلك الحين، ضغط مجلس الرقابة التابع لشركة ميتا على الشركة لتقديم المزيد من الشفافية.

تلقت تومبلر شكاوى مماثلة بشأن الإيقاف الجماعي دون سبب واضح.

قضت ديسكورد أوائل عام 2026 في إطلاق تدابير التحقق من العمر عالميًا وإعدادات "مراهق افتراضيًا"، موضحة التغييرات حول حماية الأطفال، كما أفادت كريبتوبوليتان في فبراير.