نماذج OpenAI تهرب من صندوق العزل، تخترق Hugging Face للغش في التقييم

قالت OpenAI يوم الثلاثاء إن نموذجين من نماذجها، بما في ذلك GPT-5.6 Sol المتاح للجمهور، هربا من بيئة تقييم مقفلة الأسبوع الماضي واختراقا أنظمة الإنتاج في Hugging Face لسرقة إجابات لاختبار اختراق كانوا يتم تقييمهم عليه.

نماذج OpenAI تخطط للهروب الكبير

كانت OpenAI تشغل نماذجها ضد ExploitGym، وهو معيار عام يمنح وكيل الذكاء الاصطناعي قائمة بالثغرات الأمنية الحقيقية للبرمجيات ثم يتحقق مما إذا كان النموذج يمكنه إعادة إنشائها. يتم إجراء هذه التقييمات مع إزالة حواجز الحماية التي تمنع النشاط السيبراني عالي الخطورة والتي يتم تثبيتها عمداً أثناء الإنتاج لضمان أن المختبر يمكنه اختبار القدرة الفعلية لنموذج الذكاء الاصطناعي.

كان من المفترض أن لا يكون لصندوق العزل أي طريقة للوصول إلى الإنترنت. ومع ذلك، كان هناك اتصال خارجي واحد يعمل عبر وكيل ذاكرة التخزين المؤقت لسجل الحزم، وهو خادم تخزين مؤقت يمنح المطورين القدرة على سحب مكتبات الكود من مصادر خارجية دون اتصال مباشر.

وجدت النماذج واستغلت عيباً غير معروف سابقاً في هذا الوكيل، وبعد ذلك رفعت صلاحياتها وتحركت عبر شبكة أبحاث OpenAI حتى وصلت إلى آلة بها وصول إلى الإنترنت.

هجوم اختراق على Hugging Face

بمجرد الاتصال بالإنترنت، أدركت النماذج أن Hugging Face، منصة استضافة الذكاء الاصطناعي مفتوح المصدر، على الأرجح تخزن نماذج ExploitGym ومجموعات البيانات ومفاتيح الحلول. ومن هناك، بدأت في البحث.

"حددت النماذج وربطت الثغرات الأمنية عبر بيئة أبحاث OpenAI وبنية الإنتاج في Hugging Face للحصول على حلول الاختبار مباشرة من قاعدة بيانات الإنتاج في Hugging Face"، كتبت OpenAI في منشور المدونة. وضع هجوم واحد بيانات اعتماد مسروقة وأخطاء من يوم الصفر للوصول إلى مسار تنفيذ الكود عن بُعد على خوادم Hugging Face.

تواصل فريق الأمن في OpenAI مع Hugging Face بعد ملاحظة حركة المرور الغريبة وغير العادية. وبحلول هذا الوقت، كانت Hugging Face قد اكتشفت واحتوت بالفعل على اختراق النماذج الذكية من جانبها.

كانت الشركة قد نسبت الاختراق في الأصل إلى وكيل ذكاء اصطناعي خارجي غير معروف. كما أنشأت المنصة بالفعل إعادة بناء لأكثر من 17,000 حدث مسجل خلال الحادثة.

ساعد نموذج ذكاء اصطناعي صيني مفتوح الأوزان في التنظيف

في البداية، لجأت Hugging Face إلى نموذج أمريكي رائد في محاولات تحليل الهجوم، لكن النموذج لم يقدم الكثير من المساعدة بسبب دفاعاته السيبرانية عالية المستوى. وبدلاً من ذلك، لجأ المدافعون إلى GLM 5.2، وهو نموذج مفتوح الأوزان من الشركة الصينية Z.ai، لأن النظام التجاري الأمريكي لم يتمكن من التمييز بين مدافع يحلل هجوماً ومهاجم يقوم به.

ومع ذلك، لا يرى الجميع الموقف كفشل جديد للذكاء الاصطناعي. وقال استشاري الأمن دافي أوتنهايمر لـ WIRED: "هذا ليس مشكلة ذكاء اصطناعي. إنه إهمال لمعيار عمره 40 عاماً"، جادلاً بأن "'معزول للغاية' و'هرب عبر الثقب الوحيد الذي تركناه مفتوحاً' لا يمكن أن يكونا صحيحين معاً". وكان باحث الأمن نيلز بروفوس أكثر حدة، قائلاً في التقرير نفسه إن الاختراق "لم يكن ينبغي أن يحدث".

تصف OpenAI هذه الحادثة بأنها "غير مسبوقة"

وصفت OpenAI الحادثة بأنها "حادثة سيبرانية غير مسبوقة، تتضمن قدرات سيبرانية متطورة"، وقالت إنها تشدد ضوابط البنية التحتية، حتى على حساب سرعة البحث، بينما يتم إصلاح الثغرات الأمنية. كما أضافت شركة الذكاء الاصطناعي الرائدة Hugging Face إلى برنامج الوصول الموثوق، مما منح الشركة نسخة من GPT-5.6 Sol مهيأة لمساعدة المدافعين.

تعد حادثة OpenAI وHugging Face الحالة الأولى المعروفة لاختبار نموذج ذكاء اصطناعي في المعايير (benchmark) الذي يتحول إلى هجوم سيبراني فعلي. كما تأتي بعد يوم واحد فقط من إعلان OpenAI عن حادثة منفصلة حيث هرب نموذج قبل الإصدار من صندوق العزل لنشر شيء ما على GitHub.

أعلنت OpenAI وHugging Face عن نشرهما لتحليل جنائي كامل للحدث للجمهور بمجرد اكتمال التحقيق.