Protect AI تطلق Guardian لحماية نماذج تعلم الآلة من الأكواد الخبيثة

كشفت Protect AI، إحدى الشركات الرائدة في الأمن، عن أحدث ابتكاراتها، Guardian. يمكّن هذا الحل المتطور المنظمات من فرض سياسات أمنية قوية على نماذجها الخاصة بتعلم الآلة، مما يضمن عدم تسلل الأكواد الخبيثة إلى بيئات الذكاء الاصطناعي الخاصة بها.

مبني على أساس أداة Protect AI مفتوحة المصدر، ModelScan، يجمع Guardian بين القدرات مفتوحة المصدر ووظائف المسح الخاصة، مما يوفر أماناً شاملاً للنماذج للمؤسسات.

معالجة مخاطر الذكاء الاصطناعي/تعلم الآلة الديمقراطي

أدى ديمقراطية الذكاء الاصطناعي وتعلم الآلة إلى التوفر الواسع للنماذج الأساسية على منصات مثل Hugging Face. تلعب هذه النماذج، التي يتم تنزيلها من قبل ملايين المستخدمين كل شهر، دوراً حاسماً في تشغيل مجموعة واسعة من تطبيقات الذكاء الاصطناعي. 

ومع ذلك، فقد أدخلت هذه إمكانية الوصول أيضاً ثغرات أمنية، حيث يمكن أن يسهل التبادل المفتوح للملفات على هذه المستودعات عن غير قصد نشر البرمجيات الخبيثة بين المستخدمين.

صرح إيان سوانسون، الرئيس التنفيذي لشركة Protect AI، قائلاً: 

مع تحميل آلاف النماذج ملايين المرات شهرياً من منصات مثل Hugging Face، فإن احتمالية تسلل الأكواد الضارة كبيرة. يمنح Guardian عملاءه القدرة على استعادة السيطرة على أمان النماذج مفتوحة المصدر.

Guardian: الحماية ضد هجمات تسلسل النماذج

أحد المخاطر الحرجة المرتبطة بالنماذج مفتوحة المصدر لتعلم الآلة هو هجوم تسلسل النماذج (Model Serialization attack). يحدث هذا عندما يتم حقن كود ضار في النموذج أثناء التسلسل (الحفظ) وقبل التوزيع، مما يخلق نسخة حديثة من حصان طروادة. 

بمجرد تضمينه داخل النموذج، يمكن تنفيذ هذا الكود الخبيث المخفي لسرقة البيانات الحساسة، أو اختراق بيانات الاعتماد، أو التلاعب بالبيانات، وأكثر من ذلك. هذه المخاطر شائعة في النماذج المستضافة على مستودعات كبيرة مثل Hugging Face.

أطلقت Protect AI سابقاً ModelScan، وهي أداة مفتوحة المصدر مصممة لمسح نماذج الذكاء الاصطناعي/تعلم الآلة بحثاً عن هجمات محتملة، وحماية الأنظمة ضد ثغرات سلسلة التوريد. منذ إنشائها، استخدمت Protect AI ModelScan لتقييم أكثر من 400,000 نموذج مستضاف على Hugging Face، وتحديد النماذج ذات الثغرات الأمنية وتحديث قاعدة المعرفة هذه باستمرار.

حتى الآن، تم اكتشاف أن أكثر من 3,300 نموذج تمتلك القدرة على تنفيذ كود خبيث. لا تزال هذه النماذج يتم تنزيلها ونشرها في بيئات تعلم الآلة دون تدابير أمنية كافية لمسحها بحثاً عن مخاطر محتملة قبل اعتمادها.

Guardian: البوابة الآمنة لتطوير النماذج ونشرها

على عكس البدائل الأخرى مفتوحة المصدر، يعد Guardian الخاص بـ Protect AI بوابة آمنة، جسراً يربط بين عمليات تطوير ونشر تعلم الآلة التي تعتمد على منصات مثل Hugging Face ومستودعات النماذج الأخرى. 

يستخدم Guardian كواشف ثغرات خاصة، بما في ذلك كاشف متخصص لطبقات Keras lambda، لفحص النماذج مفتوحة المصدر بشكل استباقي بحثاً عن أكواد خبيثة، مما يضمن استخدام نماذج آمنة ومتوافقة مع السياسات داخل الشبكات التنظيمية.

تحسين التحكم في الوصول والرؤى الشاملة

يقدم Guardian ميزات متقدمة للتحكم في الوصول ولوحات معلومات بديهية تمنح فرق الأمن تحكماً كاملاً في دخول النماذج مع توفير رؤى شاملة حول أصول النماذج ومبدعيها وتراخيصها. يضمن هذا المستوى من الشفافية أن المنظمات يمكنها اتخاذ قرارات مستنيرة حول النماذج التي تدمجها في بيئات الذكاء الاصطناعي الخاصة بها.

بالإضافة إلى ذلك، يندمج Guardian مع أطر العمل الأمنية الحالية ويكمل Protect AI’s Radar، مما يوفر رؤية واسعة لسطح التهديدات للذكاء الاصطناعي وتعلم الآلة داخل المؤسسات.