شركة Protect AI، الرائدة في مجال الذكاء الاصطناعي ، عن أحدث ابتكاراتها، Guardian. يمكّن هذا الحل المتطور المؤسسات من تطبيق سياسات أمنية قوية على نماذج التعلم الآلي الخاصة بها، مما يضمن عدم تسلل البرامج الضارة إلى بيئات الذكاء الاصطناعي الخاصة بها.
تم بناء Guardian على أساس أداة ModelScan مفتوحة المصدر من Protect AI، حيث يجمع بين إمكانيات المصادر المفتوحة ووظائف المسح الخاصة، مما يوفر أمانًا شاملاً للنماذج للمؤسسات.
معالجة مخاطر الذكاء الاصطناعي/التعلم الآلي المُعمم
أدى انتشار استخدام الذكاء الاصطناعي والتعلم الآلي إلى توفر نماذج أساسية على نطاق واسع عبر منصات مثل Hugging Face. وتلعب هذه النماذج، التي يقوم بتحميلها ملايين المستخدمين شهرياً، دوراً حاسماً في تشغيل مجموعة واسعة من تطبيقات الذكاء الاصطناعي.
ومع ذلك، فقد أدى هذا الوصول أيضًا إلى ظهور ثغرات أمنية، حيث أن التبادل المفتوح للملفات على هذه المستودعات يمكن أن يسهل عن غير قصد انتشار البرامج الضارة بين المستخدمين.
صرح إيان سوانسون، الرئيس التنفيذي لشركة Protect AI، قائلاً: "لقد أصبحت نماذج التعلم الآلي أصولاً أساسية في البنية التحتية للمؤسسة، ومع ذلك فهي غالباً ما تفتقر إلى عمليات فحص الفيروسات والبرامج الضارة الصارمة التي تخضع لها أنواع الملفات الأخرى قبل الاستخدام.".
مع تحميل آلاف النماذج ملايين المرات شهرياً من منصات مثل Hugging Face، يزداد احتمال تسلل برمجيات خبيثة خطيرة. يمكّن Guardian العملاء من استعادة السيطرة على أمان نماذج المصادر المفتوحة
الحارس: الحماية من هجمات تسلسل النماذج
يُعدّ هجوم تسلسل النموذج أحد المخاطر الجسيمة المرتبطة بنماذج التعلم الآلي المُتاحة للجميع. ويحدث هذا الهجوم عندما يتم حقن شيفرة برمجية خبيثة في النموذج أثناء عملية التسلسل (الحفظ) وقبل التوزيع، مما يُنشئ نسخة حديثة من حصان طروادة.
بمجرد تضمين هذا الكود الخبيث المخفي داخل نموذج، يمكن تنفيذه لسرقة البيانات الحساسة، واختراق بياناتdent، والتلاعب بالبيانات، وغير ذلك. وتنتشر هذه المخاطر في النماذج المستضافة على مستودعات ضخمة مثل Hugging Face.
أطلقت شركة Protect AI سابقًا أداة ModelScan، وهي أداة مفتوحة المصدر مصممة لفحص نماذج الذكاء الاصطناعي/التعلم الآلي بحثًا عن الهجمات المحتملة، وحماية الأنظمة من ثغرات سلسلة التوريد. ومنذ إنشائها، استخدمت Protect AI أداة ModelScan لتقييم أكثر من 400,000 نموذج مُستضاف على منصة Hugging Face،dentالنماذج التي تحتوي على ثغرات أمنية، وتحديث قاعدة المعرفة هذه باستمرار.
حتى الآن، تم اكتشاف أكثر من 3300 نموذج تمتلك القدرة على تنفيذ برمجيات خبيثة. ولا تزال هذه النماذج تُحمّل وتُنشر في بيئات التعلم الآلي دون اتخاذ تدابير أمنية كافية لفحصها بحثًا عن المخاطر المحتملة قبل اعتمادها.
الحارس: البوابة الآمنة لتطوير النماذج ونشرها
بخلاف البدائل الأخرى مفتوحة المصدر، فإن برنامج Guardian من Protect AI عبارة عن بوابة آمنة، تعمل على سد الفجوة بين عمليات تطوير ونشر التعلم الآلي التي تعتمد على منصات مثل Hugging Face ومستودعات النماذج الأخرى.
تستخدم شركة Guardian أدوات فحص الثغرات الأمنية الخاصة بها، بما في ذلك أداة فحص متخصصة لطبقات Keras lambda، لفحص نماذج المصادر المفتوحة بشكل استباقي بحثًا عن التعليمات البرمجية الضارة، مما يضمن استخدام نماذج آمنة ومتوافقة مع السياسات داخل الشبكات التنظيمية.
تحسين التحكم في الوصول ورؤى شاملة
يُقدّم نظام Guardian ميزات متقدمة للتحكم في الوصول ولوحات تحكم سهلة الاستخدام، مما يمنح فرق الأمن تحكمًا كاملاً في النماذج ، مع توفير رؤى شاملة حول مصادر النماذج ومنشئيها وتراخيصها. يضمن هذا المستوى من الشفافية قدرة المؤسسات على اتخاذ قرارات مدروسة بشأن النماذج التي تُدمجها في بيئات الذكاء الاصطناعي الخاصة بها.
بالإضافة إلى ذلك، يتكامل Guardian مع أطر الأمان الحالية ويكمل Radar الخاص بـ Protect AI، مما يوفر رؤية شاملة لسطح التهديد للذكاء الاصطناعي والتعلم الآلي داخل المؤسسات.
