تقنية Hugging Face تُصلح المشاكل المزعجة لتحسين الأمان

تتلقى منصة Hugging Face عددًا هائلاً من نماذج الذكاء الاصطناعي للاختبار والتقييم، وهي نماذج عرضة للاختراق. وقد شهد معدل تكيف الذكاء الاصطناعي فيها مستويات غير مسبوقة. ساهم هذا التطور السريع في تطوير العديد من الأدوات المفيدة، ولكنه في الوقت نفسه، وفّر للمخترقين طريقة أسرع وأسهل لتنفيذ استراتيجياتهم الخبيثة. فعلى سبيل المثال، تمكن المخترقون من استخراج معلومات المستخدمين من خلال تشغيل برامجهم الخبيثة، كما هو الحال مع Hugging Face. 

بحسب باحثين في شركة WIZ المتخصصة في أمن الحوسبة السحابية، وُجدت ثغرتان رئيسيتان في بنية النظام الذي تُنفَّذ فيه نماذج التعلّم الآلي. هاتان الثغرتان، وهما خطر اختراق البنية التحتية للاستدلال المشترك، وخطر اختراق التكامل المستمر والنشر المستمر المشترك، جعلتا المستخدمين عرضةً لهجمات المخترقين. بعبارة أخرى، وفّرت هاتان الثغرتان طريقةً سريةً للمخترقين لتحميل برامجهم، ما مكّنهم من التلاعب بسجلات البيانات. 

شراكة بين شركتي Hugging Face و WIZ لاستكشاف أوجه القصور

قد يتمكن المخترقون من الوصول غير المصرح به إلى بيانات المستخدمين الآخرين عن طريق تحميل نماذج ذكاء اصطناعي خبيثة خاصة بهم. شكّلت هذه مشكلة كبيرة، وكان من الممكن أن تُلحق dent بسمعة منصة Hugging Face، نظراً لاستخدام هذه المنصات على نطاق واسع لتخزين ومعالجة نماذج الذكاء الاصطناعي كمنصة ذكاء اصطناعي كخدمة (AaaS). تعاونت WIZ مع شركات AaaS لاكتشاف الثغرات الأمنية في هذه المنصات. في حالة Hugging Face، أدّى انتشارها الواسع وشعبيتها الكبيرة إلى جعلها هدفاً للمخترقين. وقد أتاح تعاون WIZ فرصةً قيّمةً لـ Hugging Face لمعالجة أوجه القصور في نظامها وتعزيز إجراءاتها الأمنية.

كما نعلم، تتطلب نماذج الذكاء الاصطناعي قدرة معالجة رسومية عالية لتشغيل وظائفها، ولذلك تعتمد الشركات الناشئة وغيرها من الشركات الصغيرة على شركات مزودي خدمات الذكاء الاصطناعي. وتوفر واجهة برمجة التطبيقات (API) الخاصة بـ Hugging Face الخدمة نفسها. وفي خضم ذلك، قامت شركة WIZ Research بتشغيل نموذج ذكاء اصطناعي خبيث خاص بها يتضمن بعض الخصائص الضارة التي أثرت سلبًا على خدمة Hugging Face. وقد جعل هذا النظام عرضة للاختراق، وتمكنت WIZ من الوصول إلى نماذج عملاء آخرين يستخدمون خدمة Hugging Face. 

حلول وسبل الحماية على منصات علاء

شركة WIZ في مدونتها أن هذه العيوب والنتائج لا تقتصر على تطبيق Hugging Face فحسب، بل لها تداعيات أوسع على قطاع الذكاء الاصطناعي كخدمة بأكمله. فجميع الجهات الفاعلة في هذا القطاع معرضة لخطر جسيم، إذ ينظر إليها المخترقون على أنها منصة سحابية لنماذج الذكاء الاصطناعي، ويسعون إلى الوصول إليها بطرق غير مشروعة. 

اقترحت شركتا Hugging Face وWiz معًا بعض الاحتياطات لمنع الاختراقات الأمنية، ونصحتا بتطبيق ضوابط أمنية صارمة ومراقبة الأنشطة بانتظام. كما اقترحتا استخدام سجلات آمنة وتوفير بيئة معزولة لتشغيل تطبيقات المستخدمين من خلال تشديد الحماية على أماكن تخزين أكوادهم لمنع وصول المستخدمين الآخرين إليها.