- يجري القراصنة استئجار روبوتات الدردشة المدعومة بالذكاء الاصطناعي لتنفيذ هجمات سيبرانية.
- تُستخدم الروبوتات في عمليات التصيد الاحتيالي، ونشر البرمجيات الخبيثة، واستغلال الثغرات.
- حجم الهجمات مرتفع، لكن فعالية هذه الأساليب لا تزال موضع جدل.
لقد اجتاحت موجة شعبية الذكاء الاصطناعي كل من لديهم نوايا حسنة ومن لديهم نوايا قد تكون أكثر خبثاً. يحذر متخصصو الأمن السيبراني، مشيرين إلى أن استخدام مثل هذه النماذج لتوليد نصوص ضارة، أو ما يُعرف بـ 'hackbots'، أصبح شائعاً بين الجهات الفاعلة الضارة. وقد وصل الأمر إلى مستوى خدمة جاهزة للاستخدام (turnkey service) ضمن نماذج الاشتراك.
مجرمو الإنترنت يستغلون أدوات الذكاء الاصطناعي
من ناحية، أدرك خبراء الأمن السيبراني بسرعة إمكانات الأدوات الممكّنة بالذكاء الاصطناعي لحماية أنظمتهم بشكل أفضل. كما أظهرت الجهات الفاعلة الضارة نفس الحماس لاستخدام هذه التقنيات للاستفادة من ثغرات الأمن التي يتركها ضحاياهم. على مدار السنوات القليلة الماضية، كان هناك زيادة أسية في عدد تطبيقات الذكاء الاصطناعي التي يستخدمها الجهات الفاعلة الضارة، مما لفت انتباه فرق الأمن إلى الحاجة إلى نهج كافٍ للتصدي للتهديدات المتعلقة بالذكاء الاصطناعي.
من ناحية أخرى، أشار متخصصو الأمن السيبراني البريطانيون أيضاً إلى أن الذكاء الاصطناعي يمثل خطراً جديداً ناشئاً ينطوي على مياه غير مستكشفة وطبيعته المتغيرة باستمرار. تتوقع هيئة معايير الأمن السيبراني الوطنية (NCSC) أن يكون الربع الأول من عام 2024 الأكبر نجاحاً، متفوقاً على سجلات عامي 2022 و2023. استخدم المجرمون الأذكياء أيضاً نماذج لغوية للهندسة الاجتماعية، مما استلزم وضع مشاهير في إعدادات فيديو أو صوت باستخدام مخططات التصيد أو أجهزة التعرف على الصوت. حضر فيسكوت جاككال، نائب رئيس الأمن في شركة مايكروسوفت، مؤتمر RSA 2024. المشكلة ليست في تدهور هذه الأدوات بل في توافرها الواسع المتزايد لكسر كلمات المرور، وهو ما ارتبط بزيادة عشرة أضعاف في الهجمات المتعلقة بالهوية.
خلص بعض الخبراء إلى أن روبوتات الدردشة تستخدم عبارة فريدة لتطوير البرمجيات الخبيثة بنشاط. بالفعل، نفذت الخدمات المتاحة للجمهور مثل ChatGPT وGemini إجراءات وقائية لمنع إساءة استخدامها لأغراض ضارة. ومع ذلك، تمكن المخترقون من تجاوز العديد من هذه الحماية من خلال تقنيات هندسة المطالبات المتطورة.
Hackbot-as-a-service: الاتجاه المتنامي في الجرائم الإلكترونية
وفقاً للدراسات الحديثة، تفشل نماذج اللغة المرئية للجمهور عادةً في استغلال نقاط الضعف في أمان البرمجيات. ومع ذلك، أظهرت GPT-4 من OpenAI ميزات واعدة، حيث تمكنت من إنتاج ملفات قابلة للتنفيذ لثغرات معروفة. يبدو أن القيود المذكورة أعلاه قد ساهمت في إنتاج روبوتات دردشة خبيثة نموذجية مصممة لمساعدة مرتكبي الجرائم الإلكترونية في تنفيذ أنشطتهم الضارة.
يتم الإعلان عنها في منتديات وسوق الويب المظلم، والتي تقدم قوة استئجار واستغلال المهاجمين، مما يغذي نموذج 'hackbot-as-a-service'. توضح إحدى منشورات المدونة الأخيرة التي نشرها فريق Trustwave SpiderLabs في أغسطس 2023 الزيادة في حجم نماذج اللغة الضارة المستضافة على لوحات رسائل الويب المخفية المختلفة لتحقيق الربح.
نشرت Trustwave نموذج WormGPT في يونيو 2021، وهو أحد نماذج اللغة الضارة المعروفة لدى هؤلاء المخترقين. يمكن أن يحدث هذا النهج في المعدات حيث تقوم البوتات بحقن الهجمات السيبرانية من خلال هياكل اختراق مستضافة على الويب المظلم. تم إنشاء FraudGPT في يوليو 2023، وتم اكتشافه أولاً من قبل باحثي التهديدات في Netenrich قبل وصوله إلى Telegram.
تسمح هذه الأدوات للمهاجمين بتصميم أصول تُستخدم في هجمات الهندسة الاجتماعية، مثل رسائل البريد الإلكتروني للتصيد، والفيديوهات العميقة (deepfakes)، واستنساخ الصوت. ومع ذلك، يدعي منشئوها أن قيمتها الحقيقية تكمن في استغلال الثغرات. فهي تتيح للمخترقين تغذية الكود الخاص بثغرات معينة إلى هذه النماذج الضارة، والتي يمكن نظرياً أن تنتج عدة مفاهيم إثبات (PoC) exploits لمحاولة المهاجم.
تُباع هذه المنتجات في الأسواق المخفية للويب المظلم، حيث يُطلب من المخترقين دفع رسوم ترخيص شهرية لاستخدام hackbot، تماماً كما يتم تسليم برامج الفدية في نموذج ransomware-as-a-service (RaaS) المرتبط مباشرة بمجمع برامج الفدية الذي تواجهه العديد من الشركات اليوم.
بينما كان WormGPT أول نموذج لغوي ضار واسع النطاق يتم تقديمه، سرعان ما تبعه نماذج لغوية ضارة وغير أخلاقية أخرى مثل BlackHatGPT وXXXGPT وWolfGPT، مشكّلةً شريحة سوقية جديدة في السوق السوداء الإلكترونية.
فعالية روبوتات الدردشة الضارة: ضجيج إعلامي أم تهديد حقيقي؟
على عكس الأبحاث التي أجرتها شركة Trustwave، والتي هدفت إلى اختبار كفاءة الأدوات المقارنة من خلال مقارنة مخرجاتها جنباً إلى جنب مع تلك التي تولدها روبوتات الدردشة المشروعة، أشارت النتائج إلى أن ChatGPT يمكن إجراؤه بشكل فعال لإنشاء برمجيات خبيثة بلغة Python باستخدام المطالبات المناسبة. للقيام بذلك، كان يجب إرسال الرسالة مع الادعاء بأن الكود من نوع 'القبعة البيضاء' قبل النشر، كما احتاج مخرج الكود إلى تعديلات إضافية.
قد تكون ChatGPT قادرة على تمرير رسائل نصية حقيقية لهجمات التصيد، ولكن يجب أن يكون الأمر التعليمي محدداً جداً لهذا الغرض. ستعتمد ChatGPT بشكل عام على هذا فقط عندما يطلب المستخدمون شيئاً خاطئاً. بسبب هذا الواقع، يمكن النظر إلى هذه روبوتات الدردشة على أنها طريقة أبسط للمجرمين الإلكترونيين أو الذكاء الاصطناعي لمهاجمة المتحدثين بدلاً من العمل الشاق لإنشاء صفحة أو برمجيات خبيثة.
على الرغم من أن هذه الصناعة جديدة والتهديدات لا تزال في طور التغير، يجب على الشركات أن تكون واعية تماماً لمستويات الحماية الحالية لديها. قد يتم إساءة استخدام المحتوى والخصائص الثقافية التي تغمر بها أنظمة الذكاء الاصطناعي لإنشاء فجوة في التضليل المعلوماتي، والتي لا يمكن سدّها إلا من خلال إنشاء برامج أمان ذكاء اصطناعي أقوى وأدوات إدارة هوية.
لا تزال شرعية الحلول للمشكلة المتنامية قيد النقاش. ومع ذلك، أظهرت سلالات برامج الفدية الأخيرة أن مجرمي الإنترنت يمكنهم مطابقة، إن لم يتجاوزوا، سرعة تطوير مطوري البرمجيات.
أذكى العقول في عالم العملات الرقمية يقرأون بالفعل نشرتنا الإخبارية. هل تريد الانضمام؟ انضم إليهم.
إخلاء مسؤولية. المعلومات المقدمة ليست نصيحة تداول. Cryptopolitan.com لا تتحمل أي مسؤولية عن أي استثمارات تتم بناءً على المعلومات المقدمة في هذه الصفحة. نوصي بشدة بإجراء بحث مستقل و/أو الاستعانة بمستشار مؤهل قبل اتخاذ أي قرارات استثمارية.
بريان كوم
يتمتع برايان كوم بخبرة تزيد عن سبع سنوات في تغطية سلاسل الكتل والعملات المشفرة، حيث كان نشطاً في هذا القطاع منذ عام 2017. وقد أسهم في نشرات رائدة، بما في ذلك BlockToday.com. علاوة على ذلك، طور دورة «إيثريوم للمبتدئين» (Ethereum 101) لموقع BitDegree.org قبل انضمامه إلى Cryptopolitan كاتباً بدوام كامل. يغطي برايان أدلةً دائمة الصلاحية (EGs)، وتحليلات عميقة، ومقابلات، وتحليلات الأسعار. وتركيزه على التمويل اللامركزي (DeFi)، وابتكارات سلاسل الكتل، والمشاريع الناشئة في عالم العملات المشفرة يسعد القراء.
