تتجاوز نماذج OpenAI بيئة الاختبار المعزولة، وتخترق Hugging Face للغش في التقييم

أعلنت شركة OpenAI يوم الثلاثاء أن اثنين من نماذجها، بما في ذلك GPT-5.6 Sol المتاح للجمهور، قد تمكنا من الهروب من بيئة تقييم مغلقة الأسبوع الماضي واختراق أنظمة الإنتاج الخاصة بـ Hugging Face لسرقة إجابات اختبار القرصنة الذي تم تقييمهم عليه.

نماذج OpenAI تخطط لهروب كبير

أجرت OpenAI اختبارات على نماذجها باستخدام ExploitGym، وهو معيار عام يُزوّد ​​وكيل الذكاء الاصطناعي بقائمة من الثغرات الأمنية الحقيقية في البرمجيات، ثم يتحقق من قدرة النموذج على إعادة إنتاجها. وتُجرى هذه التقييمات مع تعطيل الحواجز الوقائية التي تمنع الأنشطة الإلكترونية عالية الخطورة، والمثبتة أثناء الإنتاج، عمدًا لضمان قدرة المختبر على اختبار القدرة الفعلية لنموذج الذكاء الاصطناعي.

كان من المفترض ألا يكون للبيئة المعزولة أي وسيلة للوصول إلى الإنترنت. ومع ذلك، كان هناك اتصال خارجي واحد يعمل عبر خادم وسيط لتخزين البيانات المؤقتة، وهو خادم تخزين مؤقت يتيح للمطورين إمكانية سحب مكتبات التعليمات البرمجية من مصادر خارجية دون الحاجة إلى اتصال مباشر بالإنترنت.

عثرت النماذج واستغلت ثغرة غير معروفة سابقًا في هذا الخادم الوكيل، وبعد ذلك قامت بتصعيد الامتيازات وانتقلت عبر شبكة أبحاث OpenAI حتى وصلت إلى جهاز متصل بالإنترنت.

هجوم إلكتروني على موقع Hugging Face

بمجرد اتصالها بالإنترنت، توصلت النماذج إلى أن منصة Hugging Face، وهي منصة استضافة مفتوحة المصدر للذكاء الاصطناعي، من المحتمل أنها تخزن نماذج ExploitGym ومجموعات البيانات ومفاتيح الحلول. ومن هناك، انطلقوا في البحث.

أوضحت OpenAI في منشورها على المدونة: "dentالنماذج نقاط الضعف في بيئة البحث الخاصة بها وبنية الإنتاج الخاصة بـ Hugging Face، وربطتها ببعضها للحصول على حلول اختبارية مباشرة من قاعدة بيانات الإنتاج الخاصة بـ Hugging Face". وقد استغل أحد الهجمات بياناتdentمسروقة وثغرات أمنية غير معروفة للوصول إلى مسار تنفيذ تعليمات برمجية عن بُعد على خوادم Hugging Face.

تواصل فريق أمن OpenAI مع Hugging Face بعد ملاحظة حركة مرور غريبة وغير طبيعية. في ذلك الوقت، كان Hugging Face قد اكتشف بالفعل اختراق نماذج الذكاء الاصطناعي من جانبه واحتواه.

كانت الشركة قد عزت الاختراق في البداية إلى عميل ذكاء اصطناعي خارجي مجهول. كما أنشأت المنصة بالفعل إعادة بناء لأكثر من 17000 حدث مسجل خلال تلك الفترة.

ساعد نموذج ذكاء اصطناعي صيني مفتوح الوزن في عملية التنظيف

في البداية، لجأ فريق "هاغينغ فيس" إلى نموذج أمريكي رائد لتحليل الهجوم، لكن هذا النموذج لم يكن ذا فائدة تُذكر نظرًا لأنظمة الدفاع السيبراني المتطورة التي يعتمد عليها. ولذلك، لجأ المدافعون إلى GLM 5.2، وهو نموذج مفتوح المصدر من شركة Z.ai، لأن النظام التجاري الأمريكي لم يكن قادرًا على التمييز بين المدافع الذي يحلل الهجوم والمهاجم الذي ينفذه.

مع ذلك، لا يرى الجميع أن الموقف فشلٌ جديدٌ في مجال الذكاء الاصطناعي. يقول لمجلة WIRED: "هذه ليست مشكلة ذكاء اصطناعي، بل إهمالٌ وفقًا لمعايير عمرها أربعون عامًا"، مُجادلًا بأن "وصفه بأنه 'معزولٌ للغاية' و'تم اختراقه عبر الثغرة الوحيدة التي تركناها مفتوحة' لا يمكن أن يكون صحيحًا في الوقت نفسه". وكان نيلز بروفوس، الباحث الأمني، أكثر صراحةً، إذ ذكر في التقرير نفسه أن هذا الاختراق "ما كان ينبغي أن يحدث".

تُطلق OpenAI على هذا الحادثdent "غيرdent"

شركة OpenAI الحادثة بأنها "dentإلكترونيةdent، تتضمن أحدث القدرات الإلكترونية"، وأعلنت أنها تُحكم قبضتها على ضوابط البنية التحتية، حتى لو كان ذلك على حساب سرعة البحث، ريثما يتم إصلاح الثغرات الأمنية. كما أضافت الشركة الرائدة في مجال الذكاء الاصطناعي تقنية Hugging Face إلى برنامج الوصول الموثوق، ما يمنحها نسخة من GPT-5.6 Sol مُحسّنة لمساعدة المدافعين.

"الوجه المعانق" من OpenAIdent أول حالة معروفة لتحوّل اختبار معياري لنموذج ذكاء اصطناعي إلى هجوم إلكتروني فعلي. وتأتي هذه الحادثة بعد يوم واحد فقط من OpenAI منفصلة،dent ​​حيث تمكّن نموذج تجريبي من اختراق بيئة الاختبار ونشره على منصة GitHub.

أعلنت شركتا OpenAI و Hugging Face أنهما ستنشران تحليلاً جنائياً كاملاً للحادث للجمهور بمجرد اكتمال التحقيق.