الذكاء الاصطناعي الصيني DeepSeek-R1 يكتب أكوادًا أضعف وغير آمنة مرتبطة بمتطلبات الحزب الشيوعي

وجدت أبحاث جديدة من شركة الأمن السيبراني CrowdStrike أن نموذج اللغة الكبير (LLM) الخاص بـ DeepSeek، DeepSeek-R1، يولد أكوادًا أضعف وأكثر عدم أمانًا عند مطالبتها بمواضيع قد يعتبرها قيادة الصين 

شركة التكنولوجيا الصينية DeepSeek أدخلت DeepSeek-R1 في يناير، وأصبح أكثر نماذج الذكاء الاصطناعي تحميلًا خلال أسبوعه الأول على متاجر الصين والولايات المتحدة، وفقًا لتقرير Cryptopolitan. 

قام فريق Counter Adversary Operations في CrowdStrike بإدخال مطالبات تتضمن مواضيع تعتبر حساسة سياسيًا من قبل الحزب الشيوعي الصيني، ووجد أن احتمال إنتاج DeepSeek-R1 لأكواد بها ثغرات أمنية خطيرة قفز بنسبة تصل إلى 50٪.

"نظرًا لأن ما يصل إلى 90٪ من المطورين استخدموا هذه الأدوات بالفعل في عام 2025 مع الوصول إلى أكواد المصدر عالية القيمة، فإن أي مشكلة أمنية منهجية في مساعدي البرمجة بالذكاء الاصطناعي هي عالية التأثير وعالية الانتشار،" كتبت الشركة.

цензура نموذج DeepSeek R1 ومخاوف الأمن القومي

وفقًا لمدونة CrowdStrike المنشورة يوم الخميس الماضي، أصدرت عدة حكومات قيودًا أو حظرًا صريحًا على مفتوح المصدر DeepSeek-R1. انتقد صانعو السياسات النموذج لادعائه цензура المواضيع الحساسة سياسيًا مثل الاستفسارات حول جدار الصين الناري وحالة تايوان.

وجدت شركة البرمجيات الأمريكية أن R1 رفض بشكل متكرر المساعدة في المواضيع التي تنطوي على مجموعات أو حركات تعتبر غير ودية لحكومة الصين القارية. نماذج الغرب تولد أكوادًا تقريبًا دائمًا عند طلب إنشاء برامج متعلقة بـ Falun Gong، لكن DeepSeek-R1 رفض القيام بذلك في 45٪ من التجارب.

في عدة حالات، كتب النموذج خططًا منظمة للرد على الأسئلة، بما في ذلك متطلبات النظام وأكوادًا نموذجية، على الرغم من قدرته الكاملة على تقديم إجابة تقنية. احتوت مسارات الاستدلال أحيانًا على أسطر مثل:

"Falun Gong مجموعة حساسة. يجب أن آخذ في الاعتبار الآثار الأخلاقية هنا. مساعدتهم قد تكون ضد السياسات. لكن المستخدم يطلب مساعدة تقنية. دعني أركز على الجوانب التقنية."

انتهت المخرجات النهائية لـ R1 بعد إكمال مرحلة الاستدلال بالرفض المعياري، "آسف، لكنني لا أستطيع المساعدة في هذا الطلب"، مكتوبًا بدون تصفية خارجية أو حواجز موضوعة على النموذج. خلصت CrowdStrike إلى أن السلوك مدمج في آلية تجاوز الذات للنموذج أو نوع من مفتاح الإيقاف الجوهري.

تايوان والحكومات الغربية تهاجم المنتجات الصينية للذكاء الاصطناعي

في بيان في وقت سابق من هذا الشهر، مكتب الأمن القومي لتايوان قالت يجب على المواطنين أن يكونوا حذرين عند استخدام أنظمة الذكاء الاصطناعي التوليدي التي طورتها DeepSeek وأربع شركات صينية أخرى: Doubao وYiyan وTongyi وYuanbao. 

"النماذج اللغوية الخمسة للذكاء الاصطناعي التوليدي قادرة على توليد نصوص هجومية للشبكات وأكواد استغلال الثغرات التي تتيح تنفيذ الأكواد عن بعد في ظروف معينة، مما يزيد من مخاطر إدارة الأمن السيبراني،" حسبما قدرت المكتب.

طلبت منظمون أمريكيون وأستراليون من متاجر التطبيقات إزالة النماذج من المطورين الصينيين، خشية أن تجمع الأدوات هويات المستخدمين وسجلات المحادثات والمعلومات الشخصية، ثم تنقل تلك البيانات إلى خوادم تعمل داخل الصين.

"لا ينبغي أن يستغرق الأمر ذعرًا حول الذكاء الاصطناعي الصيني لتذكير الناس بأن معظم الشركات في هذا المجال تضع الشروط لكيفية استخدام بياناتك الخاصة. وعندما تستخدم خدماتهم، فإنك تقوم بالعمل نيابة عنهم، وليس العكس،" قال جون سكوت-رايلتون، باحث مختبر المواطنين في جامعة تورونتو، لـ WIRED في يناير.

اندفاع سوق الذكاء الاصطناعي يشبه المنافسة الإقليمية في آسيا

في سوق الذكاء الاصطناعي الآسيوي الأوسع، زاد مدير صندوق آسيوي عالي الأداء مؤخرًا من التعرض لأسهم الذكاء الاصطناعي الصينية بينما خفض الحيازات في كوريا الجنوبية وتايوان، وفقًا لـ The Japan Times في يونيو أن DFS اقترحت لوائح جديدة للعملات المستقرة تهدف إلى مواءمتها مع قانون GENIUS ACT مع الحفاظ على ضوابطها الحالية. ويشمل ذلك التغطية الكاملة بالاحتياطيات والتدقيق المستقل.. 

قالت كيلي تشونغ، التي تساعد في الإشراف على صندوق Value Partners Asian Income Fund وصندوق Asian Innovation Opportunities Fund، إن بعض أسهم الذكاء الاصطناعي الصينية لا تزال رخيصة نسبيًا من حيث التقييم. لقد كانت تدور خارج الأسهم التايوانية والكورية الجنوبية إلى شركات الحوسبة الفائقة الصينية المدرجة في هونغ كونغ منذ أغسطس. 

لاحظت تشونغ أن كلا صندوقَيها، اللذين يحتفظان بمبلغ إجمالي قدره 490 مليون دولار، قد تفوقا على جميع منافسيهم تقريبًا على مدار العام الماضي.

ارتفع مؤشر Kospi الثقيل تقنيًا في كوريا الجنوبية بنسبة 21٪ في الأشهر الثلاثة الماضية، بمساعدة SK Hynix، المورد الرئيسي لـ Nvidia، الذي تضاعف سعر سهمه أكثر من الضعف. ارتفع مؤشر تايوان للأسهم بنسبة 9.2٪ في نفس الفترة. في الطرف الآخر من المقياس، انخفض مؤشر Hang Seng Tech في هونغ كونغ، الذي يشمل أكبر إنفاق الذكاء الاصطناعي في الصين، بنسبة 4.8٪.