دراسة تكشف فجوة أمنية مقلقة في نشر الذكاء الاصطناعي التوليدي

يعتقد 82% من كبار المديرين التنفيذيين أن الذكاء الاصطناعي الآمن والموثوق أمر حاسم. ومع ذلك، فإن 24% فقط منهم يدمجون الأمان في مبادراتهم المتعلقة بالذكاء الاصطناعي التوليدي. وذلك وفقًا لأبحاث جديدة من IBM وAmazon Web Services، وهي أبحاث مشتركة أُعلنت في مؤتمر RSA 2024 وتضمنت نتائج استطلاع يركز على آراء كبار المديرين التنفيذيين حول كيفية دفع حالات الاستخدام الآمنة للذكاء الاصطناعي، مع تركيز كبير على الذكاء الاصطناعي التوليدي. تشير تقارير IBM إلى أن 24% فقط من المستجيبين اعتبروا بُعد الأمان في مبادرات الذكاء الاصطناعي التوليدي لديهم، في حين يقول ما يقرب من 70% إن الابتكار يأخذ الأولوية على الأمان.

مقايضة الابتكار مقابل الأمان

بينما يقلق معظم التنفيذيين من أن المخاطر غير المتوقعة ستؤثر على مبادرات الذكاء الاصطناعي التوليدي، فإنهم لا يعطون الأولوية للأمان. وعلى الرغم من أن مشهد تهديدات الذكاء الاصطناعي الكامل لم يتحقق بعد، فقد شملت بعض حالات الاستخدام استخدام ChatGPT أو ما شابهه لتوليد نصوص رسائل التصيد الاحتيالي وأصوات مزيفة. حذر باحثو الأمان في IBM X-Force من أنه، كما هو الحال مع التقنيات الأكثر نضجاً، يمكن توقع استهداف أنظمة الذكاء الاصطناعي بشكل متزايد على نطاق أوسع.

وقالت التقرير إنه على الرغم من أن سطح تهديدات الذكاء الاصطناعي الموحد لا يزال في مراحله الأولى، يتوقع باحثو IBM X-Force أن يبدأ الفاعلون السيبرانيون في استهداف هذه الأنظمة بشكل أوسع بمجرد نضج المشهد الصناعي حول التقنيات والنماذج التمكينية الشائعة. وفي الواقع، هذا التقارب قيد التنفيذ حيث ينضج السوق بسرعة، وتظهر بالفعل مزودون رائدون عبر الأجهزة والبرمجيات والخدمات.

الأكثر إثارة للقلق على الفور، وفقًا لـ تقرير IBM، هي الشركات التي لا تؤمن نماذج الذكاء الاصطناعي التي تبنيها وتستخدمها كجزء من أعمالها بشكل صحيح. قد يؤدي التطبيق السيئ لأدوات الذكاء الاصطناعي التوليدي إلى سوء التعامل أو تسرب البيانات الحساسة. وفقًا للتقرير، فإن "الذكاء الاصطناعي الخفي" (shadow AI) يزداد استخدامه داخل المنظمات حيث يستخدم الموظفون أدوات الذكاء الاصطناعي التوليدي التي لم توافق عليها وتؤمنها فرق أمان المؤسسات.

ولهذا الغرض، أعلنت IBM عن إطار عمل لتأمين الذكاء الاصطناعي التوليدي في يناير. وتتمثل مبادئه الأساسية في توحيد البيانات المستخدمة لتدريب نماذج الذكاء الاصطناعي، وتأمين النماذج من خلال مزيج من فحص خطوط تطوير البرمجيات بحثاً عن نقاط الضعف، وإنفاذ سياسات التحكم في الوصول لاستخدامات الذكاء الاصطناعي، وتأمين الاستخدام ضد الهجمات القائمة على نماذج الذكاء الاصطناعي الحية.

تأمين خط أنابيب الذكاء الاصطناعي

في يوم الاثنين، أطلقت فريق IBM X-Force Red للأمن الهجومي خدمة اختبار للذكاء الاصطناعي تهدف إلى تقييم تطبيقات الذكاء الاصطناعي، ونماذج الذكاء الاصطناعي، وخطوط أنابيب MLSecOps من خلال اختبارات الفريق الأحمر. وفي يوم الأربعاء خلال مؤتمر RSA 2024، ستقدم IBM عرضاً بعنوان "ابتكر الآن، وآمن لاحقاً؟ قرارات، قرارات..." حول تأمين وإنشاء الحوكمة لخط أنابيب الذكاء الاصطناعي.

كان المتحدث الثاني هو راين دوهيرتي، مدير برنامج تكنولوجيا الأمان في IBM Security. وتحدث إلى TechTarget Editorial، وقال إن تأمين الذكاء الاصطناعي منذ البداية هو أحد أهم اهتمامات IBM Security في مجال التكنولوجيا. وقال: "هذا ما يجعل هذا المجال حاسماً للغاية، خاصة في حالة الذكاء الاصطناعي التوليدي: فهو يتغلعم بعمق في تطبيقات الأعمال وعملياتها. يرفع دمج النسيج التجاري من أهميته فوق ما هو محتمل من مخاطر وتهديدات."

بحسبه، من منظور الأعمال، الذكاء الاصطناعي يجب أن يستند إلى طبيعته الحقيقية.

"يتم تدريب الذكاء الاصطناعي التوليدي وتشغيله على كميات هائلة من بيانات الأعمال الحساسة، ونحن بحاجة إلى تأمين هذه الجواهر التاجية الجديدة لأن ميزة التنافسية تأتي من هناك. الأمر يتعلق بالبيانات التي تمتلكها هذه المنظمات والرؤى التي تحصل عليها باستخدام الذكاء الاصطناعي التوليدي وعرضها داخل تطبيقاتها لتحسين أعمالها."

وأضاف دوهيرتي أنهم ينفقون مبالغ طائلة على النماذج، وهي باهظة الثمن جداً. يتم استثمار الكثير من الملكية الفكرية والاستثمارات في تشغيل هذه التطبيقات القائمة على الذكاء الاصطناعي التوليدي، ولا يمكن للأعمال ببساطة تحمل تكاليف تأمينها.