مخاوف متزايدة: استغلال chatbots المدعومة بالذكاء الاصطناعي للهجمات السيبرانية
- يستخدم المهاجمون السيبرانيون روبوتات الدردشة المدعومة بالذكاء الاصطناعي، مثل ChatGPT، لإنشاء رسائل وبرمجيات خادعة تهدف إلى الاحتيال والاختراق.
- يجد المهاجمون طرقًا لتجاوز إجراءات الأمان في أدوات الذكاء الاصطناعي، مما يتيح لهم شن هجمات تصيد أكثر تعقيدًا وفعالية.
- ولمواجهة هذا التهديد، تُعد التوعية وأدوات الأمن القائمة على الذكاء الاصطناعي واليقظة عوامل أساسية للحماية من التهديدات السيبرانية المتطورة.
الضجيج المحيط بـ ChatGPT، الـ chatbot المدعوم بالذكاء الاصطناعي الذي طورته OpenAI والمعروف ببراعته في إنتاج نثر بليغ وكود وظيفي، ملموس في مجال التكنولوجيا. ومع ذلك، يبرز مأزق وشيك حيث يستغل المهاجمون السيبرانيون الضارون أدوات الذكاء الاصطناعي التوليدي المماثلة مثل ChatGPT لابتكار سرديات مقنعة ونشر كود تشغيلي. قضية ألقت بظلالها على الإمكانات الواعدة لهذه الابتكارات.
تظهر استغلالات خبيثة
تبرز مخاوف أساسية في شكل جهات فاعلة خبيثة تخترق الفضاء السيبراني. كفاءة هذه الأدوات الذكية تمنح الجناة القدرة على صياغة رسائل إنجليزية مثالية، مما يرفع الرهانات في الحرب السيبرانية. على عكس الماضي، حيث أثارت رسائل البريد الإلكتروني المكتوبة بشكل سيء الشكوك، فقد مكن ظهور ChatGPT المهاجمين السيبرانيين، حتى أولئك الذين لديهم قدرات محدودة في اللغة الإنجليزية، من صياغة اتصالات مقنعة باللغة الإنجليزية بلا عيوب.
أدرجت OpenAI، المعمار وراء ChatGPT، حواجز أولية لمنع سوء الاستخدام. ومع ذلك، أثبتت هذه الحواجز أنها مجرد عوائق أمام الجهات الفاعلة الخبيثة العازمة، لا سيما في الهندسة الاجتماعية. سهولة طلب ChatGPT لتأليف بريد إلكتروني خادع ثم إرفاق روابط أو تعليمات خبيثة توضح مدى سهولة تحول المهاجمين لهذه الأدوات لأغراض شريرة.
الدور الدقيق للذكاء الاصطناعي في توسيع التهديدات
الـ "نبرة" الافتراضية لـ ChatGPT، عادية ولكن مثالية في القواعد النحوية والترقيم، تعكس سلوك العديد من المراسلات المؤسسية الموجهة للعملاء. ومع ذلك، تمتد الآثار السلبية إلى ما هو أبعد من التلاعب الصريح. يقدم ظهور أدوات الذكاء الاصطناعي التوليدي مجموعة من الطرق الأكثر دقة وغير المتوقعة للجهات الفاعلة الخبيثة للاستغلال.
تشير أبحاث Checkpoint إلى أن الويب المظلم أصبح أرضاً خصبة للنقاشات التي تركز على استغلال ChatGPT لهجمات الهندسة الاجتماعية القوية. ومن الملاحظ أن المجرمين في المناطق غير المدعومة يتغلبون على قيود الوصول لتجربة أساليب جديدة. القدرة الفريدة للأداة على توليد رسائل متنوعة تتجنب مرشحات البريد العشوائي التي تركز على تحديد المحتوى المتكرر، وهي سمة مفيدة لتنسيق حملات التصيد.
تؤكد Darktrace، شركة الأمن السيبراني المستندة إلى كامبريدج، على التطور الخبيث لهجمات الهندسة الاجتماعية القائمة على الذكاء الاصطناعي. لقد نمت تعقيد وطول وترقيم رسائل البريد الإلكتروني التصيدية الخبيثة بشكل أسي، مما يضيف إلى خداع sophistication.
خدع مستهدفة
بينما يثير ChatGPT في المقام الأول مفاهيم التواصل الكتابي، يمكن لأدوات الذكاء الاصطناعي مثل تلك التي طورتها ElevenLabs أن تحاكي الكلمات المنطوقة بدقة وسلطة، مما يمهد الطريق للتزييف الصوتي. العواقب وخيمة؛ فقد لا ينتمي الصوت في الطرف الآخر من المكالمة إلى من يدعي أنه ينتمي إليه.
تمتد كفاءة ChatGPT إلى ما هو أبعد من صياغة رسائل البريد الإلكتروني لإنشاء سيرة ذاتية وخطابات تغطية مزيفة على نطاق واسع. يمكن نشر هذه الشهادات المصطنعة في عمليات احتيال تستغل الأفراد الباحثين عن عمل.
تتضمن إحدى عمليات الاحتيال السائدة أدوات ChatGPT المزيفة. يستغل المهاجمون حماس هذه الابتكارات، بإنشاء مواقع ويب وهمية تتنكر كروبوتات محادثة شرعية تعتمد على نماذج OpenAI. تهدف هذه المنصات الاحتيالية في الواقع إلى سرقة الأموال والبيانات الشخصية.
التكيف مع عصر الهجمات المدعومة بالذكاء الاصطناعي
يتطلب التنقل في هذا المشهد نهجاً متعدد الأوجه:
- يؤدي إدراج المحتوى الذي أنشأه الذكاء الاصطناعي في تدريبات التصيّد إلى إلمام المستخدمين بالتكتيكات المتطورة.
- يمكن لتعزيز تدريب الأمن السيبراني بوعي الذكاء الاصطناعي التوليدي أن يخفف من نقاط الضعف.
- مواجهة التهديدات المدعومة بالذكاء الاصطناعي بأدوات أمن سيبراني مدفوعة بالذكاء الاصطناعي يعزز اكتشاف التهديدات.
- يُظهر استخدام آليات قائمة على ChatGPT للكشف عن رسائل البريد الإلكتروني التي أنشأها الذكاء الاصطناعي وعداً كبيراً.
- يُعد التحقق الصارم من مصادر التواصل أمراً بالغ الأهمية.
- يساعد الانخراط المستمر في الصناعة واستهلاك المعلومات بحذر في البقاء في طليعة عمليات الاحتيال الناشئة.
- يوفر تبني نموذج الثقة الصفرية حماية قوية ضد التهديدات الناشئة.
يشير صعود ChatGPT إلى بداية عصر تحويلي، مما يعقد مشهد الأمن السيبراني. بينما نتج خلال العام، قد تظهر العديد من روبوتات المحادثة المماثلة، مما يزيد من تعقيد الديناميكيات. في هذا الوسط المعقد، تكمن العلاجة في الأدوات المعززة، والتعليم الواسع، والنهج الشامل للأمن السيبراني.
في مواجهة هذا التحدي، يجب على الصناعة أن تتحد لضمان ألا تطغى ظلال الاستغلال على إمكانات التقدم المدعوم بالذكاء الاصطناعي.
إذا كنت تقرأ هذا، فأنت متقدّم بالفعل. ابق هناك مع نشرتنا الإخبارية.
إخلاء مسؤولية. المعلومات المقدمة ليست نصيحة تداول. Cryptopolitan.com لا يتحمل أي مسؤولية عن أي استثمارات تمت بناءً على المعلومات المقدمة في هذه الصفحة. نوصي بشدة بإجراء بحث مستقل و/أو استشارة محترف مؤهل قبل اتخاذ أي قرار استثماري.
بريندا كانانا
تمتلك بريندا أكثر من 4 سنوات من الخبرة المتخصصة في العملات الرقمية والذكاء الاصطناعي والتقنيات الناشئة. عملت في Zycrypto وBlockchain Reporter وThe Coin Republic، وهي الآن جعلت Cryptopolitan منزلها. يحافظ شهادتها في علم الاجتماع من جامعة مومباسا التقنية على تواصلها مع نبض قرائها.
