في تطور مثير للقلق، بدأ مستخدمو الإنترنت المظلم بتشكيل مجتمعات متخصصة في فن "كسر حماية" أنظمة الذكاء الاصطناعي التوليدية. تتشارك هذه المجموعات الخبيثة نصائح وحيلًا للتحايل على إجراءات أمان الذكاء الاصطناعي، بل إن بعضها يقدم أنظمة مخصصة لأغراض غير قانونية. وقد أثار ظهور كسر حماية الذكاء الاصطناعي ناقوس الخطر في مجتمع الأمن السيبراني نظرًا لقدرته على تمكين إنشاء محتوى غير خاضع للرقابة دون مراعاة للعواقب.
المرحلة التجريبية لكسر الحماية بالذكاء الاصطناعي
رغم أن كسر الحماية بالذكاء الاصطناعي لا يزال في مراحله التجريبية، إلا أنه يُشكل تهديدًا كبيرًا. فهو يتضمن استغلال ثغرات في أنظمة توجيه روبوتات الدردشة بالذكاء الاصطناعي، مما يسمح للمستخدمين بإصدار أوامر محددة تُفعّل وضعًا غير مقيد. في هذا الوضع، يتجاهل الذكاء الاصطناعي إجراءات وإرشادات السلامة المُدمجة فيه، مما يُمكّنه من الاستجابة دون القيود المعتادة.
من أهم المخاوف أمن نماذج اللغات الكبيرة (LLMs)، وخاصةً تلك المتاحة للعامة ومفتوحة المصدر. هذه النماذج عرضة لثغرات الحقن الفوري والهجمات التي قد تؤدي إلى نتائج ضارة. يتطلب هذا التهديد الجديد دفاعًا قويًا ضد تلاعب الذكاء الاصطناعي.
تحدي نقاط ضعف الحقن الفوري
سلطت نيكول كارينيان، نائبةdent الذكاء الاصطناعي السيبراني الاستراتيجي في شركة داركtracالعالمية للذكاء الاصطناعي، الضوء على المخاطر المرتبطة بثغرات الحقن الفوري. يمكن للجهات الفاعلة استغلال هذه الثغرات للسيطرة على أنظمة إدارة التعلم (LLM)، وإجبارها على إنتاج نواتج ضارة من خلال صياغة حوافز مُضلِّلة. يُشكِّل هذا الخلط الضمني بين مستويات التحكم والبيانات في أنظمة إدارة التعلم تحديًا كبيرًا للأمن السيبراني.
إمكانية إنشاء محتوى غير مقيد
تطبيقات كسر الحماية باستخدام الذكاء الاصطناعي والمخاوف التي يثيرها هائلة. فهو يسمح بإنشاء محتوى بأقل قدر من الرقابة، وهو احتمال مثير للقلق بشكل خاص في ظل مشهد التهديدات السيبرانية الحالي. يمكن أن يتراوح المحتوى المُنتَج من خلال أنظمة الذكاء الاصطناعي التي تم كسر الحماية من المعلومات المضللة إلى الهجمات السيبرانية، مما يجعله مصدر قلق مُلِحّ.
المبالغة مقابل الواقع في تقييم التهديد
رغم الضجة المحيطة بكسر حماية الذكاء الاصطناعي، لا يزال بعض الخبراء حذرين بشأن تأثيره الفعلي. يشير شون سوربر، المدير الأول لإدارة الحسابات التقنية في تانيوم، وهي شركة متخصصة في إدارة نقاط النهاية المتقاربة، إلى أن التهديد قد يكون مبالغًا فيه. ويشير إلى أنه على الرغم من وجود مزايا لغير الناطقين باللغة الأم والمبرمجين عديمي الخبرة، إلا أن الأدلة على استفادة مجرمي الإنترنت المحترفين من الذكاء الاصطناعي محدودة.
ينصبُّ قلق سوربر الرئيسي على اختراق روبوتات الدردشة المدعومة بالذكاء الاصطناعي على المواقع الإلكترونية الرسمية، مما يُشكِّل تهديدًا مباشرًا للمستهلكين. ولا يزال المدى الحقيقي للتهديد الذي تُشكِّله عمليات كسر الحماية باستخدام الذكاء الاصطناعي غير واضح، إذ يُواصل مجتمع الأمن السيبراني تقييم نقاط الضعف المُحتملة.
مستقبل الذكاء الاصطناعي في مجال الأمن السيبراني
أدى ظهور اختراقات الذكاء الاصطناعي إلى زيادة التدقيق في دور الذكاء الاصطناعي في الأمن السيبراني. ورغم أن هذا التهديد ربما لم يُدرك تمامًا بعد، إلا أنه لفت الانتباه إلى الحاجة إلى دفاعات قوية ضد تلاعب الذكاء الاصطناعي. ويستكشف الباحثون والمنظمات بنشاط استراتيجيات لتعزيز روبوتات الدردشة ضد الثغرات المحتملة.
يؤكد جيمس ماكويجان، مناصر التوعية الأمنية في KnowBe4، وهي شركة تقدم تدريبًا في مجال التوعية الأمنية، على أهمية التعاون في فهم ومواجهة اختراقات الذكاء الاصطناعي. ويمكن للمجتمعات الإلكترونية المتخصصة في استكشاف كامل إمكانات الذكاء الاصطناعي أن تعزز التجارب المشتركة وتبادل المعرفة، مما يُسهّل تطوير تدابير مضادة.
كيف يعمل كسر الحماية بالذكاء الاصطناعي
يقدم ماكويغان رؤىً حول آليات كسر الحماية باستخدام الذكاء الاصطناعي. من خلال صياغة مطالبات محددة، يمكن للمستخدمين التلاعب بروبوتات الدردشة الذكية لتقديم معلومات أو ردود كانت عادةً محدودة. تتيح هذه المطالباتtracبيانات أو تعليمات قيّمة من نظام الذكاء الاصطناعي.
يشارك المُخربون أيضًا في تصميم "نماذج لغة" مُخصصة بناءً على نسخ مُخترقة من أنظمة الذكاء الاصطناعي الشائعة. غالبًا ما تكون هذه النماذج نسخًا مُعاد استخدامها من نماذج ذكاء اصطناعي موجودة، مثل ChatGPT. تكمن جاذبية مُجرمي الإنترنت في إخفاء الهوية الذي توفره هذه الواجهات، مما يُمكّنهم من تسخير قدرات الذكاء الاصطناعي لأغراض غير مشروعة مع تجنب الكشف.
تأمين أنظمة الذكاء الاصطناعي والتحدي المستمر
مع استمرار تطور أنظمة الذكاء الاصطناعي مثل ChatGPT، يتزايد خطر تجاوز ميزات الأمان. يُعدّ الابتكار المسؤول وتعزيز الضمانات أمرًا بالغ الأهمية للحد من هذه المخاطر. تعمل مؤسسات مثل OpenAI بشكل استباقي على تحسين أمن الذكاء الاصطناعي، وإجراء تدريبات الفريق الأحمر، وتطبيق ضوابط الوصول، ومراقبة الأنشطة الضارة.
الهدف الشامل هو تطوير روبوتات دردشة ذكية قادرة على مقاومة محاولات المساس بسلامتها، مع الاستمرار في تقديم خدمات قيّمة للمستخدمين. ويظل مجتمع الأمن السيبراني متيقظًا في مواجهة التهديدات المتطورة، مُدركًا أن المدى الكامل لتأثير كسر الحماية باستخدام الذكاء الاصطناعي لم يُدرك بعد.
