صعود برامج الدردشة الآلية الخبيثة: الجهات الفاعلة في مجال التهديدات الإلكترونية تتبنى "برامج الاختراق"

موجة الذكاء الاصطناعي كلاً من أصحاب النوايا الحسنة وأصحاب النوايا الخبيثة. ويحذر خبراء الأمن من أن استخدام هذه النماذج، أو ما يُعرف بتوليد النصوص الخبيثة أو ما يُسمى بـ"برامج الاختراق الآلية"، أصبح شائعاً بين الجهات الخبيثة، حتى بات يُقدم كخدمة متكاملة ضمن الخدمات القائمة على الاشتراك.

يستغل مجرمو الإنترنت أدوات الذكاء الاصطناعي

من جهة، أدرك خبراء الأمن السيبراني سريعًا إمكانات الأدوات المدعومة بالذكاء الاصطناعي في تحسين حماية أنظمتهم. في المقابل، أبدى المهاجمون السيبرانيون حماسًا مماثلًا لاستخدام هذه التقنيات لاستغلال الثغرات الأمنية التي يتركها خصومهم. خلال السنوات القليلة الماضية، شهدنا زيادة هائلة في عدد تطبيقات الذكاء الاصطناعي التي يستخدمها المهاجمون، مما لفت انتباه فرق الأمن إلى ضرورة اتباع نهج فعال للتصدي للتهديدات المرتبطة بالذكاء الاصطناعي.

من جهة أخرى، أشار خبراء الأمن السيبراني البريطانيون إلى الذكاء الاصطناعي باعتباره خطرًا جديدًا ناشئًا ينطوي على آفاق غير مسبوقة وطبيعته المتغيرة باستمرار. المركز الوطني للأمن السيبراني أن يكون الربع الأول من عام 2024 هو الأكبر، متجاوزًا بذلك أرقام عامي 2022 و2023. كما استخدم المجرمون الماهرون نماذج لغوية للهندسة الاجتماعية، حيث تم وضع المشاهير في مقاطع فيديو أو تسجيلات صوتية باستخدام أساليب التصيد الاحتيالي أو أجهزة التعرف على الصوت. وقد حضر فاسكوت جاكال، نائب رئيسdentdentdent dentdentdentdent dentdentالهجمات المتعلقة بسرقة الهوية

وخلص بعض الخبراء إلى أن برامج الدردشة الآلية تستخدم عبارة فريدة لتطوير برامج خبيثة. وبالفعل، قامت خدمات متاحة للعموم مثل ChatGPT وGemini بتطبيق إجراءات وقائية لمنع إساءة استخدامها لأغراض خبيثة. ومع ذلك، تمكن المخترقون من تجاوز العديد من هذه الإجراءات باستخدام تقنيات هندسية متطورة وسريعة.

برامج الاختراق كخدمة: الاتجاه المتزايد في الجرائم الإلكترونية

بحسب دراسات حديثة، تفشل نماذج اللغة المتاحة للعموم عادةً في استغلال نقاط الضعف الأمنية في البرمجيات. مع ذلك، أظهر نموذج GPT-4 من OpenAI فقط ميزات واعدة، إذ استطاع إنتاج ملفات تنفيذية لثغرات معروفة. ويبدو أن القيود المذكورة أعلاه قد ساهمت في ظهور نماذج أولية لبرامج دردشة خبيثة مصممة لمساعدة مرتكبي الجرائم الإلكترونية في تنفيذ أنشطتهم الإجرامية. 

يتم الإعلان عنها في منتديات وأسواق الإنترنت المظلم، مما يتيح إمكانية توظيف المهاجمين واستغلالهم، الأمر الذي يُغذي نموذج "الهاكبوت كخدمة". إحدى تدوينات فريق Trustwave SpiderLabs، المنشورة مؤخرًا في أغسطس 2023، تُظهر ازدياد حجم نماذج اللغة الخبيثة المُستضافة على العديد من منتديات الرسائل المخفية على الإنترنت بهدف الربح.

نشرت شركة Trustwave نموذج WormGPT في يونيو 2021، وهو أحد نماذج اللغات الخبيثة المعروفة لدى هؤلاء المخترقين. يمكن أن يحدث هذا الأسلوب في الأجهزة التي تقوم فيها برامج الروبوت بحقن هجمات إلكترونية عبر هياكل اختراق مستضافة على الإنترنت المظلم. تم إنشاء FraudGPT في يوليو 2023، واكتشفه باحثو التهديدات في شركة Netenrich قبل وصوله إلى Telegram.

تُمكّن هذه الأدوات المهاجمين من تصميم أصول تُستخدم في هجمات الهندسة الاجتماعية، مثل رسائل البريد الإلكتروني التصيدية، والتزييف العميق، واستنساخ الصوت. ومع ذلك، يدّعي مُبتكروها أن قيمتها الحقيقية تكمن في استغلال الثغرات الأمنية. فهي تُمكّن المخترقين من إدخال شيفرة برمجية حول ثغرات أمنية مُحددة في هذه النماذج الخبيثة، مما قد يُنتج نظريًا العديد من نماذج إثبات المفهوم (PoC) التي يُمكن للمهاجم تجربتها.

تُباع هذه المنتجات في الأسواق السرية للشبكة المظلمة حيث يتم فرض رسوم ترخيص شهرية على المتسللين لاستخدام برنامج الاختراق، تمامًا كما يتم تسليم برامج الفدية في نموذج برامج الفدية كخدمة (raas) والذي يرتبط مباشرة بمجموعة برامج الفدية التي تواجهها العديد من الشركات اليوم.

في حين أن WormGPT هو أول نموذج لغة خبيث واسع النطاق تم تقديمه، فقد تبعته نماذج لغة خبيثة وغير أخلاقية أخرى مثل BlackHatGPT وXXXGPT وWolfGPT، مما شكل قطاعًا جديدًا من السوق السوداء الإلكترونية.

فعالية برامج الاختراق: هل هي مجرد ضجة إعلامية أم تهديد حقيقي؟

على عكس البحث الذي أجرته شركة Trustwave لاختبار كفاءة الأدوات الموصى بها من خلال مقارنة مخرجاتها بتلك التي تولدها روبوتات الدردشة الشرعية، أشارت النتائج إلى ChatGPT بفعالية لإنشاء برمجيات خبيثة بلغة بايثون باستخدام التوجيهات المناسبة. وللقيام بذلك، كان لا بد من إرسال رسالة إلى الجهة المعنية تزعم أن الكود آمن قبل نشره، كما تطلب الأمر إجراء تعديلات إضافية على مخرجات الكود.

قد يتمكن برنامج ChatGPT من تمرير رسائل نصية حقيقية لشن هجمات التصيد الاحتيالي، ولكن يجب أن يكون الأمر المُوجِّه دقيقًا للغاية لهذا الغرض. ويعتمد ChatGPT على هذا الأسلوب فقط عندما يطلب المستخدمون شيئًا خاطئًا. لهذا السبب، يمكن اعتبار هذه الروبوتات وسيلةً أسهل للمجرمين الإلكترونيين أو الذكاء الاصطناعي لمهاجمة المستخدمين بدلًا من العمل الشاق لإنشاء صفحات أو برامج ضارة.

رغم حداثة هذا القطاع، وتغير التهديدات باستمرار، يجب على الشركات أن تُدرك تمامًا مستوى حمايتها الحالي. فالمحتوى والخصائص الثقافية التي تُغمر بها أنظمة الذكاء الاصطناعي قد تُستغل لخلق فجوة تضليلية لا يُمكن سدّها إلا من خلال تطوير برامج أمنيةtronللذكاء الاصطناعي وأدوات إدارةdent.

لا تزال شرعية الحلول المطروحة لهذه المشكلة المتفاقمة موضع نقاش. ومع ذلك، فقد أظهرت سلالات برامج الفدية الأخيرة أن مجرمي الإنترنت قادرون على مجاراة سرعة تطوير البرمجيات، إن لم يكن تجاوزها.