فاعلو التهديدات يستغلون ChatGPT بحقن الأوامر: قلق متزايد في مجال الأمن السيبراني

مع اقتراب الذكرى السنوية الأولى لإطلاق ChatGPT، يستمر المشهد الأمني السيبراني في التطور، حيث يستكشف كل من فرق الدفاع وفاعلي التهديدات إمكانيات جديدة تقدمها الذكاء الاصطناعي التوليدي، ولا سيما النماذج اللغوية الكبيرة (LLMs). وعلى الرغم من أن النماذج اللغوية الكبيرة لديها القدرة على تحقيق التوازن في الميدان لمحللي الأمن السيبراني، إلا أن هناك مخاوف متزايدة بشأن كيفية استفادة فاعلي التهديدات من هذه التقنيات لصالحهم. تسلط هذه المقالة الضوء على قلق بارز في مجتمع الأمن السيبراني: استخدام حقن الأوامر (prompt injections) للتلاعب بـ ChatGPT وأدوات الذكاء الاصطناعي التوليدي الأخرى، مما قد يؤدي إلى انتهاكات البيانات وهجمات الهندسة الاجتماعية.

مجال الهجوم المتوسع

وسعت أدوات الذكاء الاصطناعي التوليدي، مثل ChatGPT، مجال الهجوم في مجال الأمن السيبراني. لقد أنشأت استخداماتها المتنوعة وإمكانية الوصول إليها فرصًا جديدة لكل من التسريبات العرضية للبيانات والاستغلال الضار من قبل فاعلي التهديدات. وعلى عكس أنظمة الأمان التقليدية، يعتمد الذكاء الاصطناعي التوليدي على البيانات المقدمة من المستخدمين، مما يقدم مستوى من عدم القدرة على التنبؤ والضعف. يدرك فاعلو التهديدات هذه الثغرات وينظرون إلى أدوات مثل ChatGPT كوسيلة لصياغة هجمات هندسة اجتماعية أكثر إقناعًا واستهدافًا.

قوة حقن الأوامر

إحدى التكتيكات التي يستخدمها فاعلو التهديدات للتلاعب بـ ChatGPT هي حقن الأوامر. تتضمن حقن الأوامر صياغة لغة مضللة ومسيطرة داخل أمر، مما يتسبب في توليد الذكاء الاصطناعي لاستجابات قد تتجاوز إجراءات الأمان أو تنتج مخرجات ضارة. وبشكل أساسي، يمكن تشبيه حقن الأوامر بحقن SQL في مجال الأمن السيبراني، حيث تتضمن التلاعب بالنظام عن طريق استغلال التوجيهات التي تبدو طبيعية.

يشرح GitHub حقن الأوامر بأنه "نوع من ثغرة الأمان التي يمكن استغلالها للتحكم في سلوك مثيل ChatGPT." وهذا يعني أن حقن أمر بسيط يمكن أن يخبر النموذج اللغوي الكبير بتجاهل التعليمات المبرمجة مسبقًا، أو تنفيذ إجراءات خبيثة، أو تجاوز الفلاتر لتوليد استجابات غير صحيحة أو ضارة.

الخطر على البيانات الحساسة

يعتمد الذكاء الاصطناعي التوليدي اعتمادًا كبيرًا على مجموعات البيانات التي ينشئها المستخدمون، وغالبًا ما يقدم المستخدمون معلومات حساسة بشكل متزايد للحصول على استجابات محددة. يمكن أن يؤدي هذا الممارسة بشكل غير مقصود إلى وضع البيانات الحساسة في خطر. عندما يستخدم فاعلو التهديدات حقن الأوامر، فقد يهندسون الأوامر بشكل استراتيجي للحصول على وصول إلى المعلومات الحساسة، مستخدمين تكتيكات الهندسة الاجتماعية لاستخراج محتوى قيم.

قد تكون المعلومات الحساسة، مثل الاستراتيجيات المملوكة، وتفاصيل المنتج، أو معلومات العملاء، في خطر. إذا تم تنفيذ أمر تم هندسته بشكل خبيث بنجاح، فقد يتمكن فاعلو التهديدات من الوصول إلى هذه المعلومات. بالإضافة إلى ذلك، قد تؤدي حقن الأوامر إلى توجيه المستخدمين إلى مواقع ويب خبيثة أو استغلال الثغرات داخل الأنظمة.

حماية بياناتك

في ضوء هذه التهديدات الناشئة، من الضروري اعتماد أفضل ممارسات الأمان عند استخدام نماذج النماذج اللغوية الكبيرة مثل ChatGPT. إليك بعض الخطوات التي يجب مراعاتها:

ممارسة الحذر مع المعلومات الحساسة: تجنب مشاركة البيانات الحساسة أو المملوكة في أدوات الذكاء الاصطناعي التوليدي كلما أمكن ذلك. إذا كان من الضروري أن تكون مثل هذه المعلومات متاحة لإكمال المهمة، فتأكد من أنها مجهولة المصدر ومقدمة بشكل عام لتقليل المخاطر.

التحقق قبل الثقة: قبل الامتثال لأي طلب يتم إنشاؤه بواسطة الذكاء الاصطناعي التوليدي، قم بإجراء العناية الواجبة للتحقق من شرعيته. سواء كان ذلك الرد على بريد إلكتروني أو زيارة موقع ويب، تحقق دائمًا من أصالة المسار.

الإبلاغ عن النشاط المشبوه: إذا بدا شيء ما مشبوهًا أو خارجًا عن المألوف، فلا تتردد في الاتصال بفريق تكنولوجيا المعلومات والأمان الخاص بك للحصول على المساعدة. يمكن أن يكون الإبلاغ المبكر أمرًا حاسمًا في التخفيف من التهديدات المحتملة.