يستغل المهاجمون برنامج ChatGPT من خلال عمليات حقن سريعة: مصدر قلق متزايد في مجال الأمن السيبراني

مع اقتراب الذكرى السنوية الأولى لإطلاق ChatGPT، يستمر تطور مشهد الأمن السيبراني، حيث تستكشف كلٌّ من الفرق الدفاعية والجهات الفاعلة في مجال التهديدات إمكانيات جديدة يوفرها الذكاء الاصطناعي التوليدي، وخاصةً نماذج اللغات الكبيرة (LLMs). ورغم أن نماذج اللغات الكبيرة قادرة على توفير فرص متكافئة لمحللي الأمن السيبراني، إلا أن هناك مخاوف متزايدة بشأن كيفية استغلال الجهات الفاعلة لهذه التقنيات لمصلحتها. تُسلّط هذه المقالة الضوء على مصدر قلق بارز في مجتمع الأمن السيبراني: استخدام الحقن الفوري للتلاعب بـ ChatGPT وغيره من أدوات الذكاء الاصطناعي التوليدي، مما قد يؤدي إلى اختراقات للبيانات وهجمات الهندسة الاجتماعية.

مشهد الهجوم المتوسع

لقد وسّعَت أدوات الذكاء الاصطناعي التوليدي، مثل ChatGPT، نطاق الهجمات في مجال الأمن السيبراني. وقد أتاح تنوع استخدامها وسهولة الوصول إليها فرصًا جديدة لكلٍّ من تسريبات البياناتdentوالاستغلال الخبيث من قِبل جهات التهديد. وعلى عكس أنظمة الأمن التقليدية، يعتمد الذكاء الاصطناعي التوليدي على البيانات التي يُقدّمها المستخدمون، مما يُؤدي إلى مستوى من عدم القدرة على التنبؤ والثغرات الأمنية. تُدرك جهات التهديد هذه الثغرات الأمنية، وترى في أدوات مثل ChatGPT وسيلةً لصياغة هجمات هندسة اجتماعية أكثر إقناعًا واستهدافًا.

قوة الحقن السريعة

من بين التكتيكات التي يستخدمها مُخرِجو التهديدات للتلاعب بـ ChatGPT هي عمليات الحقن الفوري. تتضمن عمليات الحقن الفوري صياغة لغة خادعة ومُتلاعبة ضمن عملية الحقن الفوري، مما يدفع الذكاء الاصطناعي إلى توليد استجابات قد تتجاوز إجراءات السلامة أو تُنتج نتائج ضارة. في جوهرها، يُمكن تشبيه عمليات الحقن الفوري بعمليات حقن SQL في مجال الأمن السيبراني، إذ تتضمن التلاعب بالنظام من خلال استغلال توجيهات تبدو طبيعية.

يُعرّف موقع GitHub عملية الحقن الفوري بأنها "نوع من الثغرات الأمنية التي يُمكن استغلالها للتحكم في سلوك مثيل ChatGPT". هذا يعني أن عملية حقن فوري بسيطة قد تُوجّه برنامج LLM لتجاهل التعليمات المُبرمجة مُسبقًا، أو تنفيذ إجراءات غير آمنة، أو التحايل على المُرشّحات لتوليد استجابات غير صحيحة أو ضارة.

المخاطر على البيانات الحساسة

يعتمد الذكاء الاصطناعي التوليدي بشكل كبير على مجموعات البيانات التي يُنشئها المستخدمون، وغالبًا ما يُقدمون معلومات حساسة بشكل متزايد لاستخلاص استجابات محددة. قد تُعرّض هذه الممارسة البيانات الحساسة للخطر دون قصد. عندما يستخدم مُهدّدو البرامج الضارة عمليات الحقن الفوري، فقد يُصمّمون عمليات الحقن الفوري بشكل استراتيجي للوصول إلى معلومات حساسة، مستخدمين أساليب الهندسة الاجتماعيةtracمحتوى قيّم.

قد تكون المعلومات الحساسة، مثل الاستراتيجيات الملكية أو تفاصيل المنتج أو معلومات العملاء، معرضة للخطر. في حال نجاح تنفيذ برمجية موجهة خبيثة، قد يتمكن مخترقو النظام من الوصول إلى هذه المعلومات. بالإضافة إلى ذلك، قد تؤدي عمليات حقن البرمجيات الموجهة إلى توجيه المستخدمين إلى مواقع ويب ضارة أو استغلال ثغرات أمنية في الأنظمة.

حماية بياناتك

في ضوء هذه التهديدات الناشئة، من الضروري اتباع أفضل ممارسات الأمان عند استخدام نماذج LLM مثل ChatGPT. إليك بعض الخطوات التي يجب مراعاتها:

توخَّ الحذر عند التعامل مع المعلومات الحساسة: تجنّب مشاركة البيانات الحساسة أو الخاصة في أدوات الذكاء الاصطناعي التوليدي قدر الإمكان. إذا كان من الضروري إتاحة هذه المعلومات لإنجاز المهام، فتأكد من إخفاء هوية أصحابها وتقديمها بشكل عام لتقليل المخاطر.

التحقق قبل الثقة: قبل الاستجابة لأي طلب يُولّده الذكاء الاصطناعي التوليدي، تأكد من صحة مساره. سواءً كان ذلك ردًا على بريد إلكتروني أو زيارة موقع إلكتروني، تأكد دائمًا من صحة المسار.

الإبلاغ عن أي نشاط مشبوه: إذا لاحظتَ أي نشاط مشبوه أو غير عادي، فلا تتردد في الاتصال بفريقي تكنولوجيا المعلومات والأمن لديك للحصول على المساعدة. الإبلاغ المبكر بالغ الأهمية للحد من التهديدات المحتملة.