Hugging Face تُصلح المشكلات المثيرة للقلق لتعزيز الأمان

تستقبل Hugging Face عدداً هائلاً من نماذج الذكاء الاصطناعي للاختبار والتقييم، وهي نماذج عرضة لهجمات القراصنة. إن معدل تبني الذكاء الاصطناعي هو معدل لم يسبق له مثيل من قبل. وقد ساعد هذا الحماس في تطوير العديد من الأدوات المفيدة، ولكن في الوقت نفسه، وفر طريقة أسرع وأسهل للقراصنة لتنفيذ استراتيجياتهم الخبيثة. وفيما يتعلق بـ Hugging Face، كان للقراصنة طريقة لاسترجاع معلومات المستخدمين من خلال تشغيل أكوادهم الخاصة. 

ووفقاً للباحثين في شركة أمن السحابة WIZ، كانت هناك ثغرتان رئيسيتان في بنية النظام حيث يتم تنفيذ نماذج التعلم الآلي (ML). الثغرتان، وهما خطر الاستيلاء على بنية الاستدلال المشتركة وخطر الاستيلاء على التكامل المستمر والنشر المستمر (CI/CD) المشترك، تركت المستخدمين عرضة لهجمات القراصنة ذوي القبعات السوداء. وبكلمات أبسط، وفرت هذه الثغرات طريقة خفية للقراصنة لرفع أكوادهم، مما منحهم وسيلة للتلاعب بالسجلات. 

شراكة Hugging Face وWIZ لاستكشاف الثغرات

يمكن للمخترقين الوصول غير المصرح به إلى بيانات المستخدمين الآخرين عن طريق تحميل نماذج الذكاء الاصطناعي الخبيثة الخاصة بهم. كانت هذه مشكلة كبيرة وقد تلحق ضرراً محتملاً بسمعة Hugging Face، حيث تُستخدم هذه المنصات على نطاق واسع لتخزين ومعالجة نماذج الذكاء الاصطناعي كمنصة ذكاء اصطناعي كخدمة (AIaaS). تعاونت WIZ مع شركات AIaaS للعثور على ثغرات أمنية في هذه المنصات. في حالة Hugging Face، جلبت شعبيتها واعتمادها الواسع انتباه المخترقين إليها. وقد وفرت شراكة WIZ فرصة جيدة لـ Hugging Face لمعالجة أوجه القصور في نظامها وتعزيز إجراءات الأمان في المنصة.

كما نعلم، تتطلب نماذج الذكاء الاصطناعي قوة معالجة رسومية (GPU) عالية لتشغيل وظائفها، ولذلك تعتمد الشركات الناشئة والموردين الأصغر على شركات مقدمي خدمات الذكاء الاصطناعي. توفر واجهة برمجة التطبيقات (API) الخاصة بـ Hugging Face أيضاً نفس الخدمة. وفي هذه العملية، قامت WIZ Research بتشغيل نموذج ذكاء اصطناعي خبيث خاص بها يحتوي على بعض الميزات الضارة التي أثرت على خدمة Hugging Face. جعل هذا النظام عرضة للخطر، وتمكنت WIZ من الوصول إلى نماذج العملاء الآخرين الذين يستخدمون خدمة Hugging Face. 

الحلول والتدابير الوقائية لحماية منصات Alaas

أوضحت WIZ في مدونتها أن هذه الثغرات والنتائج لا تقتصر على Hugging Face فحسب، بل لها آثار أوسع على صناعة الذكاء الاصطناعي كخدمة بأكملها. جميع اللاعبين في هذا القطاع معرضون لمخاطر جسيمة، حيث ينظر إليهم القراصنة على أنهم "GitHub" لنماذج الذكاء الاصطناعي ويسعون للحصول على وصول غير قانوني عبر المستخدمين.

اقترحت Hugging Face وWIZ بشكل مشترك بعض الاحتياطات لمنع خروقات الأمان، ونصتا على فرض ضوابط أمنية صارمة والمراقبة المنتظمة للأنشطة. كما نصتا على استخدام سجلات آمنة وتوفير بيئة معزولة (sandboxed) لتشغيل تطبيقات المستخدمين، من خلال جعل الأماكن التي يخزنون فيها أكوادهم أكثر تحصيناً لمنع الوصول عبر المستخدمين.