الصين تستخدم الآن الذكاء الاصطناعي لتعزيز الرقابة والقمع

بيانات مسربة تظهر أن الصين تستخدم نماذج لغوية كبيرة لتعزيز آلة الرقابة لديها.

يكشف تسريب حديث عن نظام ذكاء اصطناعي متطور، مبني على 133,000 مثال من محتوى المستخدمين، مصمم للإشارة إلى أي مواد تعتبرها الحكومة حساسة. 

مجموعة البيانات، التي اكتشفها باحث أمني ورآها TechCrunch، تظهر أن الصين تتخذ خطوات لتمديد سيطرتها عبر الإنترنت لتشمل مجالات تتجاوز بكثير مواضيع مثل مذبحة ساحة تيانانمن.

الصين تستخدم تقنيات حديثة لتصفية المحتوى عبر الإنترنت

يُعد التسريب، الذي يعود إلى إدخالات حديثة حتى ديسمبر 2024، دليلاً واضحاً على أن السلطات الصينية أو الجهات التابعة لها تستخدم تكنولوجيا جديدة لتصفية المحتوى عبر الإنترنت. 

تتضمن قاعدة البيانات شكاوى حول الفقر في الريف الصيني، وتقارير إخبارية عن أعضاء فاسدين في الحزب الشيوعي، ونداءات للمساعدة بشأن ضباط شرطة فاسدين يستغلون رواد الأعمال. 

يتم تغذية كل قطعة محتوى في نموذج لغوي كبير (LLM) يقوم بالبحث عن مواضيع قد تثير المعارضة العامة.

قال شياو تشيانغ، الباحث في جامعة كاليفورنيا بركلي والمتخصص في الرقابة الصينية، لـ TechCrunch إن البيانات المسربة هي "دليل واضح" على نية الحكومة استخدام النماذج اللغوية الكبيرة لتحسين القمع. 

شرح تشيانغ أنه على عكس الطرق التقليدية التي تعتمد على العمل البشري لتصفية الكلمات الرئيسية والمراجعة اليدوية، يمكن للنموذج اللغوي الكبير تحديد الانتقادات الدقيقة بسرعة ودقة، مما يجعل التحكم الحكومي في المعلومات أكثر كفاءة وأبعد مدى.

النظام لا يستخدم فقط لرقابة المواضيع السياسية، بل يمتد أيضاً إلى المجالات الحساسة في الحياة الاجتماعية والشؤون العسكرية. ووفقاً للتفاصيل في مجموعة البيانات المسربة، يتم إعطاء "أولوية قصوى" للرقابة على أي محتوى يتعلق بالتلوث، وفضائح سلامة الغذاء، والاحتيال المالي، والنزاعات العمالية. 

تظهر البيانات أن مواضيع مثل احتجاجات شيفانغ ضد التلوث عام 2012 تخضع لمراقبة دقيقة لمنع الاضطرابات العامة. حتى السخرية السياسية والاستعارات التاريخية الموجهة ضد الشخصيات السياسية الحالية يتم الإشارة إليها فوراً. يتم استهداف المحتوى المتعلق بسياسة تايوان أيضاً، مع خضوع الشؤون العسكرية – بما في ذلك تقارير عن التحركات، والتمارين، وتفاصيل الأسلحة – لمراقبة دقيقة.

يظهر مصطلح 'تايوان' 15,000 مرة في مجموعة بيانات الرقابة الصينية

تفاصيل بارزة في المحتوى المسرب هي أن الكلمة الصينية لتايوان (台湾) تظهر أكثر من 15,000 مرة، مما يؤكد التركيز على أي نقاش قد يتحدى الرواية الرسمية. 

تتضمن المحتويات الحساسة الأخرى في مجموعة البيانات تعليقات حول القدرات العسكرية لتايوان وتفاصيل حول مقاتلة صينية جديدة. حتى الأشكال الدقيقة للمعارضة لم تسلم؛ مثال واحد وجد في قاعدة البيانات هو حكاية عن طبيعة السلطة العابرة باستخدام المثل الصيني الشائع "عندما تسقط الشجرة، تفر القرود".

كشف باحث الأمان NetAskari عن مجموعة البيانات، التي كانت مخزنة في قاعدة بيانات Elasticsearch غير مؤمنة على خادم من بايدو. 

"عمل الرأي العام" هو مصطلح يُستخدم لجهود الرقابة والدعاية التي تشرف عليها الإدارة السيبرانية الصينية القوية (CAC). أوضح مايكل كاستر، مدير برنامج آسيا في منظمة حقوق الإنسان Article 19، أن هذا العمل مصمم لضمان بقاء سرديات الحكومة مهيمنة عبر الإنترنت. 

تغطية تقرير من OpenAI الشهر الماضي كشفت أيضاً أن فاعلاً غير معروف، يعمل على الأرجح من الصين، استخدم الذكاء الاصطناعي التوليدي لمراقبة محادثات وسائل التواصل الاجتماعي – خاصة تلك التي تدعو إلى احتجاجات من أجل حقوق الإنسان – وأرسل المعلومات إلى الحكومة الصينية. وأشارت نفس التقرير إلى أن التكنولوجيا استُخدمت لتعليقات شديدة الانتقاد للمعارض الصيني البارز تساي شيا.

غالباً ما اعتمدت الرقابة التقليدية في الصين على خوارزميات أساسية تحجب تلقائياً المحتوى الذي يحتوي على مصطلحات مدرجة في القائمة السوداء مثل "مذبحة تيانانمن" أو "شي جين بينغ". اختبر المستخدمون هذا شخصياً مع أدوات مثل DeepSeek. ومع ذلك، يمكن للأنظمة الأحدث اكتشاف الانتقادات الدقيقة على نطاق واسع، وتتطور كلما تم تغذيتها بمزيد من البيانات.