الدراسةdentثغرة أمنية مقلقة في نشر الذكاء الاصطناعي التوليدي

يعتقد 82% من كبار المديرين التنفيذيين أن الذكاء الاصطناعي أمر بالغ الأهمية. ومع ذلك، فإن 24% فقط منهم يدمجون الأمن في مبادراتهم المتعلقة بالذكاء الاصطناعي التوليدي. هذا ما توصلت إليه دراسة جديدة أجرتها شركتا IBM وAmazon Web Services، وهي دراسة مشتركة أُعلن عنها في مؤتمر RSA 2024، والتي فصّلت نتائج استطلاع رأي ركّز على آراء كبار المديرين التنفيذيين حول كيفية تعزيز حالات الاستخدام الآمن للذكاء الاصطناعي، مع التركيز بشكل كبير على الذكاء الاصطناعي التوليدي. وتشير تقارير IBM إلى أن 24% فقط من المشاركين في الاستطلاعdentبُعد الأمن في الاعتبار عند وضع مبادراتهم في مجال الذكاء الاصطناعي التوليدي، بينما يقول ما يقرب من 70% إن الابتكار له الأولوية على الأمن.

المفاضلة بين الابتكار والأمن

بينما ينتاب القلق معظم المديرين التنفيذيين من تأثير المخاطر غير المتوقعة على مبادرات الذكاء الاصطناعي، إلا أنهم لا يولون الأمن أولوية. ورغم أن مشهد التهديدات المتعلقة بالذكاء الاصطناعي لم يكتمل بعد، فقد تضمنت بعض حالات الاستخدام استخدام ChatGPT أو ما شابهه لإنشاء نصوص رسائل بريد إلكتروني تصيدية وتسجيلات صوتية مزيفة. وقد حذر باحثو الأمن في IBM X-Force من أنه، كما هو الحال مع التقنيات الأكثر نضجًا، يُتوقع أن تتعرض أنظمة الذكاء الاصطناعي للاستهداف على نطاق أوسع.

بينما لا تزال ملامح التهديدات الموحدة للذكاء الاصطناعي في طور التشكّل، يتوقع باحثو IBM X-Force أنه بمجرد نضوج المشهد الصناعي حول التقنيات ونماذج التمكين المشتركة، سيبدأ المهاجمون باستهداف أنظمة الذكاء الاصطناعي هذه على نطاق أوسع، وفقًا للتقرير. في الواقع، هذا التقارب جارٍ بالفعل مع نضوج السوق بسرعة، وظهور مزودين رائدين في مجالات الأجهزة والبرمجيات والخدمات.

IBM إلى أن الأمر الأكثر إثارة للقلق تقريرهو الشركات التي لا تُؤمّن نماذج الذكاء الاصطناعي التي تُنشئها وتستخدمها في أعمالها بشكلٍ صحيح. فقد يؤدي سوء استخدام أدوات الذكاء الاصطناعي العام إلى سوء التعامل مع البيانات الحساسة أو تسريبها. ووفقًا للتقرير، يتزايد استخدام "الذكاء الاصطناعي الخفي" داخل المؤسسات، حيث يستخدم الموظفون أدوات الذكاء الاصطناعي العام التي لم تُعتمد ولم تُؤمّن من قِبل فرق أمن المؤسسات.

ولهذا الغرض، أعلنت شركة IBM في يناير عن إطار عمل لتأمين الجيل القادم من الذكاء الاصطناعي. وتتمثل مبادئه الأساسية في مركزية البيانات، التي تُستخدم لتدريب نماذج الذكاء الاصطناعي، وتأمين النماذج باستخدام مزيج من فحص مسارات التطوير بحثًا عن الثغرات الأمنية، وفرض سياسات وضوابط الوصول لاستخدام الذكاء الاصطناعي، وتأمين استخدامه ضد الهجمات القائمة على نماذج الذكاء الاصطناعي الحية.

تأمين مسار الذكاء الاصطناعي

أطلق فريق الأمن الهجومي X-Force Red التابع لشركة IBM، يوم الاثنين، خدمة اختبار الذكاء الاصطناعي التي تهدف إلى تقييم تطبيقات الذكاء الاصطناعي ونماذجه وخطوط أنابيب MLSecOps من خلال اختبارات الفريق الأحمر. وفي يوم الأربعاء، وخلال مؤتمر RSA 2024، ستقدم IBM عرضًا بعنوان "الابتكار الآن، والتأمين لاحقًا؟ قرارات، قرارات..." حول تأمين خطوط أنابيب الذكاء الاصطناعي وإرساء حوكمتها.

كان المتحدث الثاني ريان دوهرتي، مدير برنامج تكنولوجيا الأمن في شركة IBM Security. وفي حديثه مع فريق تحرير TechTarget، قال إن تأمين الذكاء الاصطناعي فورًا بعد تثبيته يُعدّ من أهم أولويات IBM Security في مجال التكنولوجيا. وأضاف: "هذا ما يجعل هذا المجال بالغ الأهمية، لا سيما في حالة الذكاء الاصطناعي التوليدي: فهو يندمج بعمق في تطبيقات وعمليات الأعمال. إن دمجه في بنية الأعمال يرفعه فوق مستوى المخاطر والتهديدات المحتملة.".

ووفقاً له، من منظور الأعمال، للذكاء الاصطناعي أساس في طبيعته الحقيقية.

"يتم تدريب الذكاء الاصطناعي التوليدي وتشغيله على كميات هائلة من بيانات الأعمال الحساسة، ونحن بحاجة إلى تأمين هذه البيانات القيّمة الجديدة لأنها مصدر الميزة التنافسية. الأمر يتعلق بالبيانات التي تمتلكها هذه المؤسسات والرؤى التي تحصل عليها من خلال استخدام الذكاء الاصطناعي التوليدي وإبرازها داخل تطبيقاتها لتحسين أعمالها."

وأضاف دوهرتي أنهم يدفعون مبالغ طائلة مقابل هذه النماذج، التي تُعدّ باهظة الثمن. ويُستثمر الكثير من الملكية الفكرية والاستثمارات في تشغيل تطبيقات الذكاء الاصطناعي التوليدي هذه، ولا تستطيع الشركات ببساطة تحمل تكاليف تأمينها.