رفعت منصة ديسكورد الحظر عن 8000 مستخدم بعد أن صنّف الذكاء الاصطناعي صورًا غير ضارة بشكل خاطئ
- أعادت منصة ديسكورد تفعيل جميع الحسابات المتأثرة بعد أن تسبب خلل في نظام الإشراف بالذكاء الاصطناعي في حظر أكثر من 8000 مستخدم منذ شهر مايو.
- كانت قرارات الحظر دائمة ولم تخضع للمراجعة البشرية.
- تُضاف هذه القضية إلى سلسلة من حالات فشل الإشراف الآلي عبر منصات إنستغرام وفيسبوك وتامبلر.
أعادت منصة ديسكورد تفعيل أكثر من 8000 حساب تمdentعن طريق الخطأ. فقد تسبب خلل في نظام الإشراف الآلي الخاص بها في تصنيف بعض الملفات غير الضارة على أنها محتوى غير قانوني. وتعثر النظام في تصنيف جداول البيانات، ورقع الشطرنج، ورسومات الألعاب. وكانت عمليات الحظر دائمة ودون أي موافقة بشرية.
في سلسلة تغريدات نشرها حساب الدعم على X في 7 يوليو 2026، قام Discord بتفصيل الأخطاء التي حدثت.
واجه المستخدمون مؤشرات تحذيرية منذ شهر مايو. تمكن فريق ديسكورد منdentالمشكلة وتوزيع حل لها بعد اكتشاف حوالي 200 حساب إضافي خلال عطلة نهاية الأسبوع. وأعلنت الشركة أنه يجري حاليًا إعادة تفعيل جميع الحسابات المتأثرة.
مطابقة التشابه مع الجداول والشبكات المحددة
تُقارن كل ملفات يتم تحميلها بقواعد بيانات المحتوى التي سبق أنdentأدوات أمان ديسكورد على أنها خطيرة. وتُقرّ الشركة بأنّ مطابقة التشابه، وهي أساس هذه المقارنة، قد تُؤدي إلى نتائج خاطئة.
نظرياً، قبل معاقبة أي حساب، يجب على أحد أعضاء فريق الثقة والأمان مراجعة أي شيء يشير إليه النظام.
تم إلغاء تلك الخطوة بسبب الخلل. قام النظام بحظر الحسابات نهائيًا بدلًا من إرسال الملفات المشبوهة إلى المراجع. تسببت صور بسيطة في تفعيل الفلتر، مما أدى إلى تعليق الحسابات فورًا. إلى جانب جداول البيانات ولوحات الشطرنج، تم التقاط خلفيات بيضاء ورمادية شفافة أيضًا.
قبل أن ديسكورد تفسيراً، ظهرت المشكلة على منصتي X وريديت. وكان نشر الصور ذات أنماط الشبكة المربعة هو السبب الوحيد الذي دفع المستخدمين للإبلاغ عن فقدان حساباتهم.
طرح العديد من المستخدمين نظرية مفادها أن نموذج الكشف ربما يكون قد أصيب بالحساسية تجاه أي شيء يشبه الشبكة، لأن التخطيطات الشبيهة بالشبكة استُخدمت سابقًا لإخفاء المحتوى غير اللائق ومحتوى استغلال الأطفال عن الماسحات الضوئية الآلية.
"...كان ينبغي علينا اكتشاف هذا الأمر في وقت أبكر. نحن نعمل على تحسين إجراءات الحماية حتى لا يتكرر هذا الأمر مرة أخرى"، هكذا كتب ديسكورد في موضوع X الخاص به.
خلال عطلة نهاية الأسبوع، قامت أنظمة الأمان لدينا بتفعيل وحظر حوالي 200 حساب بشكل خاطئ. وقد تمت إعادة تفعيل حسابات جميع المتضررين.
إليكم ما حدث. سلسلة تغريدات 🧵 https://t.co/wXH32iiv8I
— دعم ديسكورد (@discord_support) 7 يوليو 2026
طالت عمليات الحظر نفسها موقعي ميتا وتامبلر
في الرابع من يوليو، ادعى مخرج ألعاب يستخدم اسم JDBRYANT أن حسابه قد تم حذفه لأن نظام الإشراف الآلي فسر نصوص لعبته على أنها تصور إساءة جنسية للأطفال.
تم قطع قناة الاتصال التي يستخدمها لجميع اتصالاته المتعلقة بالعمل بسبب الحظر. وادعى أنه قدم طلباً لإعادة النظر في قرار التعليق.
ذهب مستخدم آخر إلى أبعد من ذلك، فكتب على منصة X: "...يجب إصلاح هذه الثغرة الأمنية فورًا وإلغاء جميع عمليات الحظر الخاطئة. إن فقدان حساب ديسكورد بسبب أمر غير عادل كهذا قد يكون كارثيًا ويؤثر بشدة على المستخدمين، ويتأثر ملايين المستخدمين يوميًا بعمليات حظر خاطئة من الذكاء الاصطناعي. يجب إيقاف هذا الأمر " .
يضم تطبيق ديسكورد أكثر من 200 مليون مستخدم فريد كل شهر، وفقًا لإحصائيات الشركة نفسها التي Cryptopolitan استشهد بها في فبراير.
أبلغ مستخدمو مجموعات إنستغرام وفيسبوك عن موجات من عمليات تعليق الحسابات غير المبررة العام الماضي أيضاً، والتي عُزيت على نطاق واسع إلى نظام الإشراف الآلي، على الرغم من أن ميتا لم تؤكد قط ما إذا كانت أخطاء الذكاء الاصطناعي وراءها. ومنذ ذلك الحين، ضغط مجلس الرقابة التابع لميتا على الشركة من أجل مزيد من الشفافية.
تلقى موقع Tumblr شكاوى مماثلة بشأن عمليات تعليق جماعية دون سبب واضح.
أمضت شركة ديسكورد أوائل عام 2026 في طرح خاصية التحقق من العمر عالميًا وإعدادات المراهقين افتراضيًا، مع وضع التغييرات في إطار حماية الطفل، كما ذكر Cryptopolitan في فبراير.
أذكى العقول في عالم العملات الرقمية يتابعون نشرتنا الإخبارية بالفعل. هل ترغب بالانضمام إليهم؟ انضم إليهم.
الأسئلة الشائعة
كم عدد مستخدمي ديسكورد الذين تم حظرهم عن طريق الخطأ، وهل تمت إعادة تفعيل حساباتهم؟
تم حظر أكثر من 8000 حساب عن طريق الخطأ بدءًا من مايو 2026، وتقول ديسكورد إنه يجري استعادة جميع الحسابات المتأثرة.
ما هي أنواع الصور التي أدت إلى عمليات الحظر الخاطئة؟
تم تصنيف الملفات غير الضارة التي تم تحميلها، بما في ذلك جداول البيانات، ولوحات الشطرنج، وقوام الألعاب، والخلفيات الشفافة البيضاء والرمادية، على أنها ضارة.
لماذا تم فرض الحظر دون مراجعة بشرية؟
تم تصميم نظام Discord بحيث يقوم أحد أعضاء فريق الثقة والأمان بمراجعة المحتوى الذي تم الإبلاغ عنه قبل اتخاذ أي إجراء، ولكن حدث خطأ برمجي تسبب في قيام النظام بحظر الحسابات المتأثرة على الفور.
راندا موسى
راندا موسى محررة ومراسلة في Cryptopolitan تغطي أخبار التكنولوجيا والذكاء الاصطناعي والروبوتات والعملات الرقمية وعمليات الاحتيال والاختراقات. تعمل في مجال العملات الرقمية منذ عام ٢٠١٧، وشغلت مناصب في شركات فورورد بروتوكول وأمازيكس وكريبتوسومنياك. تحمل راندا شهادة في الهندسة الكهربائيةtronمن جامعة برادفورد.
