تبني الذكاء الاصطناعي يكشف عن تهديدات جديدة للأمن السيبراني

كشف خبير أمن سيبراني أن الذكاء الاصطناعي يمثل تهديداً أمنياً سيبرانياً غير آمن للشركات التي تستخدمه كخدمة، ليس فقط من خلال تنفيذ الهجمات من قبل المجرمين، بل أيضاً بشكل شرعي.

الثغرات السيبرانية للذكاء الاصطناعي

على الرغم من مناقشة التهديد الذي يشكله المجرمون باستخدام الذكاء الاصطناعي لتنفيذ الهجمات على نطاق واسع، يقول بيتر غاراجان، الرئيس التنفيذي والمدير التقني لشركة ميدغارد، المتخصصة في توفير الأمن السيبراني للذكاء الاصطناعي تحديداً: "المشكلة التي أعنيها هي تهديد أمني سيبراني يستهدف الذكاء الاصطناعي نفسه، وهو ما أركز عليه في هذا السياق."

ومن المتوقع، فإن الاستخدام الأكثر شيوعاً للذكاء الاصطناعي من قبل الشركات، والذي يجعله الأكثر عرضة للخطر، يتعلق بروبوتات الدردشة التي تعمل كخدمة عملاء، حيث يتم تخصيص نبرتها وبياناتها عادةً لتمثيل المؤسسات التي تعمل بها. هنا قرر الدكتور غاراجان، الأستاذ المتخصص في أمن ونظم الذكاء الاصطناعي في جامعة لانكستر، البحث عن شركة ميدغارد في عام 2022. ويقول: "الذكاء الاصطناعي ليس سحراً". إنه مجرد مزيج من البرمجة الإضافية والبيانات والأجهزة. وبالنظر إلى التهديدات السيبرانية الحديثة، يمكن أن تتجلى جميع هذه المخاطر أيضاً في الذكاء الاصطناعي.

لنفكر في الأمر بهذه الطريقة: افترض أن مهاجماً يستخدم عملية تُعرف بحقن SQL. يمكن للمهاجم استخدام هذه العملية لاستغلال الثغرات في حقول نماذج الويب، مثل نماذج تسجيل الدخول أو الاتصال بالموقع. طريقة أخرى لاستخدام حقن الأوامر (Prompt Injection) هي في التطبيقات العامة. أولاً وقبل كل شيء، إذا لم يتم ضمان الأمان بشكل كافٍ، يمكن عملياً إجبار أدوات الذكاء الاصطناعي على تسريب شفرة المصدر والتعليمات الخاصة بها، أو الملكية الفكرية للشركة، أو بيانات العملاء. ثانياً، يمكن هندسة أدوات الذكاء الاصطناعي عكسياً مثل تطبيقات البرمجيات الأخرى لتحديد الثغرات.

تأمين أنظمة الذكاء الاصطناعي

يصف غاراجان خطورة المشكلة قائلاً: في المستقبل المتصور، خلال بضع سنوات، قد يظهر عامل السلامة الوطنية، أو قد يكون الأشخاص المحرومون من الحقوق في خطر. تبدو المعلومات الجديدة كتحذير: يجب على الأعمال التجارية الحذر من البيانات المنشرة.

يقول غاراجان: "وعلاوة على ذلك، يمكن أن يعمل الذكاء الاصطناعي كأداة للهجوم السيبراني حيث يمكنه تسريب البيانات؛ فسيتمكن النموذج من توفير البيانات التي طلبتها بلطف." وفي مثال قدم في يناير، بحثت منصة غاب الاجتماعية اليمينية عن دروس تعليمية كشفت عن تعليماتها عن طريق الخطأ. وكانت منصة OpenAI القائمة على GPT قد تعرضت أيضاً لسوء استخدام نماذجها سابقاً.

يدعي غاراجان أنه يمكن الحصول على معلومات من هجمات VoIP غير المصرح بها. أيضاً، يمكن هندسة الذكاء الاصطناعي عكسياً، ويمكن تجاوز النظام أو خدعه لمنحه وصولاً مفتوحاً إلى أنظمة أخرى. وبالتالي، قد يكون تسرب المعلومات أحد المجالات الرئيسية التي تمتد عبر جميع الصناعات، بما في ذلك تلك الموجهة للجمهور الخارجي أو الداخلي. كما يعدد مخاطر أخرى، مثل التهرب من النموذج (Model Evasion)، حيث يتم تضليل النموذج أو التهرب منه عمداً عن طريقFabricating بيانات مخادعة.

أشار غاراجان إلى أن إدراج أوامر ضارة أو تلويث البيانات بحلول خاطئة في المسارات الصوتية يمثل تهديداً آخر. بالإضافة إلى ذلك، يلاحظ أن التأثير السيبراني العام هو الضرر السمعة الذي يحدث عادةً بعد الهجمات السيبرانية. وبالمثل، فإن المجالات الأكثر عرضة للعواقب السلبية لهذا النوع من الهجمات السيبرانية هي تلك التي تكون فيها المخاطر أعلى. مع وجود العديد من الصناعات والمؤسسات التي تعمل عبر الإنترنت، تعد السلامة العامة وعدم تسرب المعلومات السرية من القيم المهمة التي يجب على قطاعات الخدمات المالية والرعاية الصحية إعطاؤها الأولوية.

يقول غاراجان: الرابط هنا هو أنه كلما كنت أكثر تنظيماً وتحكماً في صناعتك، وكلما واجهت مخاطر أكبر من الذكاء الاصطناعي (وكذلك من الخبرة: كلما قل استخدامك للذكاء الاصطناعي، قل اعتمادك)، كان أداء ذكاءك الاصطناعي أسوأ. ربما لا يكونون الكسالى. على سبيل المثال، قد يمرون ببساطة بالمراحل الأكثر خطورة في حياتهم.

تدابير أمنية استباقية للذكاء الاصطناعي

سيتولى الذكاء الاصطناعي التعامل مع تلك المخاطر في أي شركة محددة، رغم أنه يقول إنه سيتطلب طبقات من الأمن (لأن الذكاء الاصطناعي في الأعمال يحتاج إليها بالفعل) لحماية المستخدمين. ويقول غاراجان: "لديك بالفعل أدوات أمن سيبراني متخصصة في قطاعات مختلفة." "قد تكون هذه أدوات إدارة الوضع الأمني، وأدوات الكشف والاستجابة، وجدران الحماية، ودعم التحول نحو التصميم المبكر، مثل فحص الأكواد. ستحتاج قريباً إلى الذكاء الاصطناعي بما يتماشى مع التحول الرقمي." تتخصص هذه الفئة حصرياً في الذكاء الاصطناعي وتعلم الآلة، بينما تُذكر أنظمة مثل الشبكات العصبية فقط من حين لآخر

ستحتاج إلى ماسح للتطبيقات يعتمد على الشبكات العصبية، ونظام استجابة لجميع أنواع الشبكات العصبية، واختبار الأمان، واختبار الفريق الأحمر (Red Teaming) للتحكم بشكل أفضل بين التطبيقات، وستحتاج إلى نظام استجابة لجميع أنواع الشبكات العصبية. من الأسهل إصلاحها ومعالجتها في مراحل مبكرة بدلاً من مواجهة مشكلات وقت التشغيل. ومع ذلك، فإن أفضل الممارسات التي نوصي بها للمنظمات التي تستخدم نماذج الذكاء الاصطناعي أو تطبيقات وخدمات الذكاء الاصطناعي المشتراة هي أنه قبل نشرها في الإنتاج، من الأسهل إصلاح جميع المشكلات المتعلقة بالنماذج. ثم، بعد نشرها في الإنتاج، قد يتم تحديد المشكلات التي تحتاج إلى الإصلاح فقط.