لماذا تدعو CISA إلى تصميم ذكاء اصطناعي آمن مرتبط بالأمن الأساسي؟

شددت وكالة أمن البنية التحتية والأمن السيبراني الأمريكية (CISA) على ضرورة دمج الأمن في نسيج أنظمة الذكاء الاصطناعي (AI) أثناء مراحل تطويرها. تهدف هذه النهج الاستباقي، كما تدعو إليه CISA، إلى منع ظهور نقاط الضعف بعد النشر، وهو سيناريو قد يكون معقداً ومكلفاً للغاية لتصحيحه. يتماشى نداء الوكالة لتصميم ذكاء اصطناعي آمن مع حملتها الأوسع لدمج الأمن بسلاسة في مراحل التصميم والتطوير، بدلاً من اعتباره أمراً ثانوياً.

الأمن في صميم المهمة المستمرة لـ CISA

في منشورها الأخير ، حثت CISA بشدة مطوري الذكاء الاصطناعي على اعتماد نموذج

تغيير المنظور: من الخارج إلى الالتزام

شددت مديرة CISA، جين إيسترلي، في خطاب ألقته في وقت سابق من هذا العام، على الحاجة إلى تحول تحويلي في تصور الأمن داخل صناعة التكنولوجيا. تاريخياً، غالباً ما تم إهمال الأمن في المرتبة الثانية، مع تحميل تكاليفه للمستخدمين النهائيين. دعت إيسترلي إلى إعادة نظر كاملة في هذا النهج، مؤكدة على التزام متجدد بالأمن يتضمن دمجه في دورة حياة تطوير البرمجيات. علاوة على ذلك، اقترحت إيسترلي تغييراً في توزيع المسؤولية، مقترحة أن يتحمل مطورو البرمجيات حصة أكبر من المسؤولية.

التحديات المترابطة للتعلم الآلي

يركز منشور المدونة الخاص بـ CISA على تعقيدات التعلم الآلي، مشدداً على الطبيعة المتشابكة لأكوادها. بشكل ملحوظ، يمكن لأي تعديل على مدخل واحد داخل نظام الذكاء الاصطناعي أن يكون له عواقب بعيدة المدى. تم التأكيد على هذا الترابط المعقد في ورقة رائدة عام 2014 من قبل باحثي جوجل، الذين شبهوا بدقة التحديات التقنية غير المحلولة في تطوير الذكاء الاصطناعي بـ

ممارسات أمنية مخصصة للذكاء الاصطناعي

بينما يعترف منشور المدونة بضرورة التصميم الآمن لأنظمة الذكاء الاصطناعي، فإنه يدرك أيضاً التحديات الفريدة التي يطرحها الذكاء الاصطناعي. قامت CISA بتجميع قائمة بالممارسات الأمنية الأساسية التي لا تعتمد على قطاع معين، وهي قابلة للتطبيق بنفس القدر على برمجيات الذكاء الاصطناعي. تؤكد الوكالة على أهمية الالتزام بهذه الإرشادات، لا سيما نظراً للحالات التي يستغل فيها الفاعلون المهددون الثغرات المعروفة في مكونات البرمجيات غير الخاصة بالذكاء الاصطناعي.

نهج شامل لأمن الذكاء الاصطناعي

تؤكد CISA أن الممارسات والسياسات الأمنية المتوقعة من المجتمع يجب أن تحكم جوانب مختلفة من تطوير الذكاء الاصطناعي، بما في ذلك التصميم، والتطوير، والنشر، والاختبار، وإدارة البيانات، وتكامل النظام، وإدارة الثغرات والحوادث. في الحالات التي يتم فيها معالجة تنسيقات ملفات نماذج الذكاء الاصطناعي، يجب اتخاذ تدابير قوية لمنع محاولات تنفيذ أكواد غير موثوقة. علاوة على ذلك، يُوصى باستخدام لغات آمنة للذاكرة كإجراء وقائي إضافي ضد التهديدات المحتملة.

المساءلة والشفافية في هندسة الذكاء الاصطناعي

بالإضافة إلى الضوابط التقنية، تحث CISA مجتمع هندسة الذكاء الاصطناعي على اعتماد ممارسات تعزز المساءلة والشفافية. يتضمن ذلك تنفيذ معرفات الثغرات مثل CVEs (الثغرات والكشفات المشتركة) والحفاظ على قائمة شاملة لمواد البرمجيات لكل من نماذج الذكاء الاصطناعي وتبعياتها. لا يتم إهمال مخاوف الخصوصية أيضاً، حيث تدعو الوكالة إلى الالتزام بمبادئ الخصوصية الأساسية بشكل افتراضي.

لحظة محورية لأمن الذكاء الاصطناعي

يشكل النداء الملح لـ CISA بشأن تصميم الذكاء الاصطناعي الآمن نقطة محورية في مجال تطوير الذكاء الاصطناعي. من خلال وضع الأمن في صميم التصميم والتطوير، تدعو الوكالة إلى تحول في النموذج قد يمنع بشكل كبير اختراقات أمنية كبيرة في المستقبل. في عالم تصبح فيه أنظمة الذكاء الاصطناعي أكثر انتشاراً، يمكن لهذا الموقف الاستباقي أن يمهد الطريق لمشهد رقمي أكثر أماناً ومرونة.