الرئيس التنفيذي لشركة أنثروبيك يقول إن شركة ديب سيك كانت "الأسوأ" في اختبار سلامة بيانات الأسلحة البيولوجية الحرج

اكتشف داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، ثغرة خطيرة في نموذج R1 الخاص بشركة ديب سيك، من شأنها أن تدفع المستهلكين على الأرجح إلى إعادة النظر في استخدام برنامج الدردشة الآلي. وادعى أن البرنامج قادر على توليد معلومات تتعلق بالأسلحة البيولوجية، وهو ما قد يشكل خطراً في المستقبل القريب.

في مقابلة، صرّح أمودي بأنّ برنامج DeepSeek قد ولّد معلومات غير مألوفة حول الأسلحة البيولوجية خلال اختبار أمان أجرته شركة Anthropic. وفي معرض حديثه عن أداء الشركة الناشئة في مجال الذكاء الاصطناعي، أشار إلى أنه "الأسوأ بين جميع النماذج التي اختبرناها على الإطلاق [...] لم يكن لديه أي عوائق على الإطلاق تمنعه ​​من توليد هذه المعلومات".

تختبر منظمة أنثروبيك بانتظام نماذج الذكاء الاصطناعي المختلفة لتقييم مخاطرها المحتملة على الأمن القومي. ويتم ذلك من خلال التحقق مما إذا كانت النماذج قادرة على إنتاج معلومات حول الأسلحة البيولوجية غير متوفرة بسهولة على جوجل أو في الكتب الدراسية.

بالإضافة إلى ذلك، سيسكو في اختراق نظام DeepSeek R1 دون أي إخفاقات. وهذا يختلف عن الأنظمة المتقدمة الأخرى مثل o1، التي تمنع معظم الهجمات بفضل خصائصها الوقائية.

مع ذلك، صرّح أمودي بأن هذا الضعف لا يُشكّل تهديدًا في الوقت الراهن. وأشار أيضًا إلى أنه ما لم تكن هناك أدلة قاطعة على وجود خطر، فسيكون هناك سبب وجيه لمواصلة تحسينه. وقد حثّ المهندسين والشركة على إيلاء اهتمام بالغ لسلامة الذكاء الاصطناعي. وتواجه شركة ديب سيك بالفعل معارضة في بعض الدول، مثل إيطاليا.

من جهة أخرى، أعلنت شركات مثل أمازون ويب سيرفيسز ومايكروسوفت عن إضافة الإصدار R1 إلى خدماتها السحابية. قد ينظر البعض إلى هذا الأمر كجزء من عملية تعلم الشركة، بينما قد يأخذه آخرون على محمل الجد. ولم يصدر أي رد فعل أو انتقاد حتى الآن على هذه النتائج الجديدة. 

الذكاء الاصطناعي الأمريكي يتصدر المشهد – داريو أمودي

بحسب الرئيس التنفيذي لشركة أنثروبيك، "يوجد الآن ما بين ثلاث إلى خمس شركات في الولايات المتحدة وشركة واحدة في الصين. ويعتمد استمرارها في إنتاج نماذج شبه متطورة على كمية الرقائق التي يمكنها الحصول عليها، وما إذا كان بإمكانها الحصول على رقائق على نطاق أوسع بكثير مما هو متاح لها الآن."

بررت شركة DeepSeek استخدامها لتقنية رخيصة تعتمد على رقائق Nvidia التي اشترتها قبل فرض القيود الأمريكية. ووفقًا لأمودي، "لم تكن ضوابط التصدير مصممة أصلًا لمنع DeepSeek أو أي شركة صينية أخرى من الحصول على هذا الكم من الرقائق، الذي بلغ عشرات الآلاف".  

وأضاف: "ينبغي أن نتوقع حدوث عمليات تهريب بشكل معقول. يمكن أن تكون ضوابط التصدير أكثر نجاحًا في منع عمليات الاستحواذ الكبيرة - لا يمكنهم امتلاك مليون شريحة لأن ذلك يمثل بسهولة عشرات المليارات من النشاط الاقتصادي، ويقترب من 100 مليار."

زعمت شركة DeepSeek أنها استخدمت مزيجًا من رقائق H100، وهي الرقائق القياسية في الولايات المتحدة. وقد استخدمت حوالي 10000 رقاقة منها. وهذا يعني أنها لن تتأثر كثيرًا.

وفيما يتعلق بمسألةdent الصين عن رقائقها، وخاصة رقائق هواوي، قال إن ذلك سيستغرق من 10 إلى 15 عامًا. وأضاف: "سيكون من الصعب حقًا تصنيع رقائق تنافس رقائق Nvidia B100 الجديدة، على سبيل المثال [...] أعتقد أنه من غير المرجح أن تصبح رقائق هواوي قريبة من مستوى الرقائق الأمريكية في أي وقت قريب"

أثار أمودي مخاوف بشأن القوانين في الولايات المتحدة. وأوضح أن الجهود جارية لتقييم مخاطر أنظمة الذكاء الاصطناعي والحد منها قدر الإمكان.

يشمل ذلك مخاوف بشأن مخاطرها، وإساءة استخدامها من قبل الأفراد، على سبيل المثال، في الهجمات البيولوجية، والمخاطر التي تشكلها الأنظمة نفسها. في العام الماضي، صدرت عدة قوانين جديدة في الولايات المتحدة. وهذا يطرح السؤال: هل سيصمد سوق DeepSeek في الولايات المتحدة؟

بالإضافة إلى ذلك، أشاد أمودي بشركات الذكاء الاصطناعي الأمريكية، موضحًا أنها تعمل معًا بكفاءة عالية. وأكد أنها جميعًا تلتزم بالقواعد نفسها، حيث يتعين على كل من OpenAI وMeta و Google وxAI الامتثال للوائح الأمريكية. وقال: "يمكنكم التأكد من التزامكم بممارسات السلامة اللازمة، وسيلتزم بها الآخرون أيضًا".

بل على العكس من ذلك، قال: "لا أعتقد أن ذلك ممكن بين الولايات المتحدة والصين. نحن نعيش نوعاً من الفوضى الدولية الشبيهة بفوضى هوبز"

أوضح أمودي قائلاً: "أنا على علم بجهود الحكومة الأمريكية لإرسال وفد للتحدث مع الصين حول مواضيع تتعلق بسلامة الذكاء الاصطناعي. وحسب فهمي، مع العلم أنني لم أكن جزءاً من تلك الوفود، لم يكن هناك اهتمام كبير من الجانب الصيني"

يرغب المشرعون الأمريكيون في حظر تقنية DeepSeek على الأجهزة الحكومية

يُوشك تطبيق DeepSeek على مواجهة حظر جديد لأسباب أمنية، وهذه المرة من قِبل الحكومة الأمريكية. على غرار TikTok ، تقترح مجموعة من الحزبين في الولايات المتحدة سنّ قانون لمنع استخدام تطبيق الذكاء الاصطناعي الصيني DeepSeek على الأجهزة الحكومية.

قدم النائبان جوش جوتهايمر، وهو ديمقراطي من ولاية نيو جيرسي، ودارين لاهود، وهو جمهوري من ولاية إلينوي، مشروع قانون بعنوان "قانون حظر البحث العميق على الأجهزة الحكومية" 

سيحظر هذا القانون على موظفي الحكومة الفيدرالية استخدام تطبيق الذكاء الاصطناعي الصيني على الأجهزة المملوكة للحكومة. وأشاروا إلى أن الحكومة الصينية قد تستخدم التطبيق للتجسس ونشر المعلومات المضللة.

قال غوتهايمر: "لقد أوضح الحزب الشيوعي الصيني بشكل قاطع أنه سيستغل أي أداة متاحة له لتقويض أمننا القومي، ونشر المعلومات المضللة الضارة، وجمع البيانات عن الأمريكيين [...] ببساطة لا يمكننا المخاطرة بتسلل الحزب الشيوعي الصيني إلى أجهزة مسؤولي حكومتنا وتعريض أمننا القومي للخطر"