التهديد المتصاعد لأنظمة الذكاء الاصطناعي "المكسورة"

في تطور مقلق، بدأ سكان الويب المظلم في تشكيل مجتمعات مكرسة لفن "كسر" أنظمة الذكاء الاصطناعي التوليدية. تشارك هذه المجموعات الخبيثة النصائح والحيل لتجاوز إجراءات أمان الذكاء الاصطناعي، ويقدم البعض حتى أنظمة مخصصة لأغراض غير قانونية. أثار ظهور كسر الذكاء الاصطناعي أجراس الإنذار داخل مجتمع الأمن السيبراني بسبب إمكاناته لتمكين إنشاء محتوى غير خاضع للرقابة مع القليل من الاهتمام بالعواقب.

المرحلة التجريبية لكسر الذكاء الاصطناعي

بينما لا يزال كسر الذكاء الاصطناعي في مرحلته التجريبية، فإنه يشكل تهديداً كبيراً. يتضمن استغلال الثغرات في أنظمة توجيه روبوتات الدردشة بالذكاء الاصطناعي، مما يسمح للمستخدمين بإصدار أوامر محددة تؤدي إلى تفعيل وضع غير مقيد. في هذا الوضع، يتجاهل الذكاء الاصطناعي إجراءات الأمان والإرشادات المدمجة فيه، مما يمكنه من الرد دون القيود المعتادة.

إحدى المخاوف الرئيسية هي أمن نماذج اللغات الكبيرة (LLMs)، خاصة تلك المتاحة للجمهور والمفتوحة المصدر. هذه النماذج عرضة لثغرات حقن التوجيه والهجمات التي يمكن أن تؤدي إلى مخرجات ضارة. يتطلب هذا التهديد الجديد دفاعاً قوياً ضد التلاعب بالذكاء الاصطناعي.

تحدي ثغرات حقن التوجيه

أبرزت نيكول كارينان، نائبة رئيس الاستراتيجية السيبرانية للذكاء الاصطناعي في Darktrace، وهي شركة عالمية للأمن السيبراني تعتمد على الذكاء الاصطناعي، المخاطر المرتبطة بثغرات حقن التوجيه. يمكن للجهات الفاعلة في التهديد استغلال هذه الثغرات للسيطرة على نماذج اللغات الكبيرة (LLMs)، وإجبارها على إنتاج مخرجات ضارة من خلال صياغة توجيهات تلاعب. يشكل هذا الالتباس الضمني بين مستويات التحكم ومستويات البيانات في نماذج اللغات الكبيرة (LLMs) تحدياً كبيراً للأمن السيبراني.

إمكانات توليد محتوى غير مقيد

تطبيقات كسر الذكاء الاصطناعي المحتملة والمخاوف التي تثيرها واسعة النطاق. يتيح إنشاء محتوى بإشراف محدود، وهو احتمال مقلق بشكل خاص نظراً لوضع التهديدات السيبرانية الحالي. يمكن أن يتراوح المحتوى المنتج من خلال أنظمة الذكاء الاصطناعي المكسورة من المعلومات المضللة إلى الهجمات السيبرانية، مما يجعله قضية ذات أولوية عالية.

الضجيج مقابل الواقع في تقييم التهديد

على الرغم من الضجيج المحيط بكسر الذكاء الاصطناعي، يظل بعض الخبراء حذرين بشأن تأثيره الفعلي. يقترح شون سوربر، المدير الأول لإدارة الحسابات التقنية في Tanium، وهي شركة موحدة لإدارة نقاط النهاية، أن التهديد قد يكون مبالغاً فيه. ويلاحظ أنه بينما هناك مزايا للمتحدثين غير الأصليين والمبرمجين غير المتمرسين، هناك أدلة محدودة على أن المجرمين السيبرانيين المحترفين يحصلون على ميزة كبيرة من الذكاء الاصطناعي.

تكمن مخاوف سوربر الرئيسية في اختراق روبوتات الدردشة المدعومة بالذكاء الاصطناعي على المواقع الشرعية، وهو ما يشكل تهديداً أكثر إلحاحاً للمستهلكين. يظل المدى الحقيقي للتهديد الذي يشكله كسر الذكاء الاصطناعي غير واضح، حيث يستمر مجتمع الأمن السيبراني في تقييم الثغرات المحتملة.

مستقبل الذكاء الاصطناعي في الأمن السيبراني

أدى ظهور كسر الذكاء الاصطناعي إلى زيادة التدقيق في دور الذكاء الاصطناعي في الأمن السيبراني. بينما قد لا يكون التهديد قد تحقق بالكامل بعد، فقد لفت الانتباه إلى الحاجة إلى دفاعات قوية ضد التلاعب بالذكاء الاصطناعي. يستكشف الباحثون والمنظمات بنشاط استراتيجيات لتحصين روبوتات الدردشة ضد الاستغلال المحتمل.

يشدد جيمس ماكويجان، advocate الوعي بالأمن في KnowBe4، وهي شركة تدريب على الوعي بالأمن، على أهمية التعاون في فهم ومواجهة كسر الذكاء الاصطناعي. يمكن للمجتمعات عبر الإنترنت المخصصة لاستكشاف الإمكانات الكاملة للذكاء الاصطناعي أن تعزز التجارب المشتركة وتبادل المعرفة، مما يسهل تطوير التدابير المضادة.

كيف يعمل كسر الذكاء الاصطناعي

يوفر ماكويجان رؤى حول ميكانيكا كسر الذكاء الاصطناعي. من خلال صياغة توجيهات محددة، يمكن للمستخدمين التلاعب بروبوتات الدردشة بالذكاء الاصطناعي لتقديم معلومات أو ردود كانت عادةً مقيدة. تسمح هذه التوجيهات باستخراج بيانات أو تعليمات قيمة من نظام الذكاء الاصطناعي.

المجرمون السيبرانيون أيضاً يشاركون في صياغة "نماذج لغوية" مخصصة بناءً على نسخ مكسورة من أنظمة الذكاء الاصطناعي الشائعة. غالباً ما تكون هذه النماذج تكرارات معاد توجيهها لنماذج الذكاء الاصطناعي الموجودة، مثل ChatGPT. تكمن الجاذبية للمجرمين السيبرانيين في إخفاء الهوية الذي توفره هذه الواجهات، مما يمكنهم من حشد قدرات الذكاء الاصطناعي لأغراض غير مشروعة مع تجنب الكشف.

تأمين أنظمة الذكاء الاصطناعي وتحدي مستمر

مع استمرار تقدم أنظمة الذكاء الاصطناعي مثل ChatGPT، يزداد تهديد تجاوز ميزات الأمان. الابتكار المسؤول والتدابير الوقائية المعززة ضرورية للتخفيف من هذه المخاطر. تعمل منظمات مثل OpenAI بنشاط على تحسين أمان الذكاء الاصطناعي، وإجراء تمارين الفريق الأحمر، وإنفاذ ضوابط الوصول، ومراقبة النشاط الضار.

الهدف الشامل هو تطوير روبوتات دردشة بالذكاء الاصطناعي يمكنها مقاومة محاولات تقويض سلامتها مع الاستمرار في تقديم خدمات قيمة للمستخدمين. يظل مجتمع الأمن السيبراني يقظاً في مواجهة التهديدات المتطورة، مدركاً أن المدى الكامل لتأثير كسر الذكاء الاصطناعي لم يتحقق بعد.