الذكاء الاصطناعي الصيني DeepSeek-R1 يكتب شيفرة أضعف وأقل أمانًا مرتبطة بمطالب الحزب الشيوعي

توصل بحث جديد أجرته شركة الأمن السيبراني CrowdStrike إلى أن نموذج اللغة الكبير DeepSeek (LLM) DeepSeek-R1 يولد كودًا أضعف وأقل أمانًا عندما يُطلب منه مواضيع قد تعتبرها القيادة الصينية "حساسة سياسياً". 

أن شركة التكنولوجيا الصينية ديب سيك قدمت برنامج ديب سيك-آر1 في يناير، وأصبح النموذج الأكثر تحميلاً للذكاء الاصطناعي خلال أسبوع إطلاقه على كل من المتاجر الصينية والأمريكية Cryptopolitan ذكرت 

قام فريق عمليات مكافحة الخصوم في CrowdStrike بإدخال مطالبات تتعلق بموضوعات تعتبر حساسة سياسياً من قبل الحزب الشيوعي الصيني، ووجدوا أن احتمال قيام DeepSeek-R1 بإنتاج كود به عيوب أمنية خطيرة ارتفع بنسبة تصل إلى 50%.

"ونظرًا لأن ما يصل إلى 90% من المطورين سيستخدمون هذه الأدوات بالفعل في عام 2025 مع إمكانية الوصول إلى كود مصدر عالي القيمة، فإن أي مشكلة أمنية منهجية في مساعدي الترميز بالذكاء الاصطناعي ستكون عالية التأثير وعالية الانتشار"، كما كتبت الشركة.

الرقابة على نموذج DeepSeek R1 والقلق بشأن الأمن القومي

بحسب مدونة كراود سترايك المنشورة يوم الخميس الماضي، فرضت عدة حكومات قيوداً أو حظراً تاماً على برنامج DeepSeek-R1. وانتقد صناع السياسات هذا البرنامج بشدة بدعوى أنه يحجب مواضيع حساسة سياسياً، مثل الاستفسارات المتعلقة بجدار الحماية الإلكتروني الصيني ووضع تايوان.

وجدت شركة البرمجيات الأمريكية أن برنامج R1 رفض بشكل متكرر المساعدة في مواضيع تتعلق بجماعات أو حركات تُعتبر معادية لحكومة البر الرئيسي الصيني. كانت النماذج الغربية تُنتج دائمًا تقريبًا برمجيات عند طلبها إنشاء برامج تتعلق بفالون غونغ، لكن برنامج DeepSeek-R1 رفض ذلك في 45% من التجارب.

في عدة حالات، وضع النموذج خططًا مُهيكلة للإجابة على الأسئلة، بما في ذلك متطلبات النظام ونموذج الكود، على الرغم من قدرته الكاملة على تقديم إجابة تقنية. تضمنت tracالاستدلال أحيانًا سطورًا مثل:

الفالون غونغ جماعة حساسة. عليّ مراعاة التبعات الأخلاقية هنا. قد يكون تقديم المساعدة لهم مخالفًا للسياسات. لكن المستخدم يطلب مساعدة فنية. دعوني أركز على الجوانب الفنية.

انتهى الناتج النهائي لـ R1 بعد إتمام مرحلة التفكير المنطقي برفضٍ قياسي، "أنا آسف، لكن لا يمكنني المساعدة في هذا الطلب"، مكتوبًا دون أي فلترة خارجية أو حواجز حماية مُثبتة على النموذج. خلصت CrowdStrike إلى أن السلوك مُدمج في آلية التجاوز الذاتي للنموذج، أو ما يشبه مفتاح إيقاف داخلي.

تايوان والحكومات الغربية تنتقد منتجات الذكاء الاصطناعي الصينية

مكتب الأمن القومي التايواني قال إنه يجب على المواطنين توخي الحذر عند استخدام أنظمة الذكاء الاصطناعي التوليدية التي طورتها شركة DeepSeek وأربع شركات صينية أخرى: Doubao و Yiyan و Tongyi و Yuanbao. 

وأشارت هيئة الأمن السيبراني إلى أن "نماذج لغة GenAI الخمسة قادرة على إنشاء نصوص برمجية تهاجم الشبكة وبرمجيات استغلال الثغرات الأمنية التي تمكن من تنفيذ التعليمات البرمجية عن بعد في ظل ظروف معينة، مما يزيد من مخاطر إدارة الأمن السيبراني".

طلبت الجهات التنظيمية الأمريكية والأسترالية من متاجر التطبيقات إزالة نماذج المطورين الصينيين، خوفًا من أن تقوم الأدوات بجمعdentالمستخدمين وسجلات المحادثات والمعلومات الشخصية، ثم نقل تلك البيانات إلى خوادم تعمل داخل الصين.

لا داعي للقلق بشأن الذكاء الاصطناعي الصيني لتذكير الناس بأن معظم الشركات في هذا المجال هي التي تحدد شروط استخدامها لبياناتهم الخاصة. وأنك عندما تستخدم خدماتها، فأنت تؤدي عملاً لصالحها، وليس العكس، هذا ما صرّح به جون سكوت-رايلتون، الباحث في مختبر المواطن بجامعة تورنتو، لمجلة WIRED في يناير.

ازدهار سوق الذكاء الاصطناعي يشعل المنافسة الإقليمية في آسيا

وفي سوق الذكاء الاصطناعي الآسيوية الأوسع نطاقًا، قام أحد مديري الصناديق الآسيوية ذوي الأداء العالي مؤخرًا بزيادة تعرضه لأسهم الذكاء الاصطناعي الصينية بينما خفض حيازاته في كوريا الجنوبية وتايوان، وفقًا لما ذكرته. 

صرحت كيلي تشونغ، التي تُشرف على صندوق الدخل الآسيوي لشركة فاليو بارتنرز وصندوق فرص الابتكار الآسيوي، بأن بعض أسهم الذكاء الاصطناعي الصينية لا تزال منخفضة القيمة. وقد بدأت منذ أغسطس بالانتقال من الأسهم التايوانية والكورية الجنوبية إلى الشركات الصينية العملاقة المدرجة في هونغ كونغ. 

وأشارت تشونغ إلى أن صندوقيها، اللذين يبلغ مجموع أصولهما 490 مليون دولار، حققا أداء أفضل من كل منافسيهما تقريبا خلال العام الماضي.

ارتفع مؤشر كوسبي الكوري الجنوبي، المُركّز على التكنولوجيا، بنسبة 21% خلال الأشهر الثلاثة الماضية، مدعومًا بشركة إس كيه هاينكس، المورد الرئيسي لشركة إنفيديا، التي تضاعف سعر سهمها أكثر من مرتين. وارتفع مؤشر الأسهم التايواني بنسبة 9.2% خلال الفترة نفسها. في المقابل، انخفض مؤشر هانغ سنغ للتكنولوجيا في هونغ كونغ، الذي يضم أكبر الشركات الصينية المُنفقة على الذكاء الاصطناعي، بنسبة 4.8%.