الجانب المظلم للذكاء الاصطناعي: كيف تغذي أدوات الذكاء الاصطناعي التوليدي مثل ChatGPT الهجمات الإلكترونية

في الآونة الأخيرة، كان العالم التقني يثري حول قدرات ChatGPT، وهو روبوت محادثة قائم على الذكاء الاصطناعي طورته شركة OpenAI. وقد حظيت هذه الأداة متعددة الاستخدامات بإشادة لقدرتها على توليد نصوص مقنعة وحتى أكواد وظيفية. ومع ذلك، ومع تطور التكنولوجيا، تتطور أيضاً أساليب الجهات الخبيثة، ولا يفلت براعة ChatGPT من الاستغلال من قبل المهاجمين الإلكترونيين.

أصبحت أدوات الذكاء الاصطناعي التوليدي مثل ChatGPT سيفاً ذا حدين. بينما تمكّن المستخدمين بقدرات مذهلة، فإنها توفر أيضاً للجهات الخبيثة وسيلة قوية لصياغة سرديات وأكواد مقنعة، بما في ذلك هجمات الهندسة الاجتماعية. هذا يثير مخاوف بشأن تأثير هذه الفئة الجديدة من الأدوات على الهجمات الإلكترونية، لا سيما تلك التي تتضمن الهندسة الاجتماعية.

عصر الهندسة الاجتماعية المثالية

في الماضي، كانت رسائل البريد الإلكتروني ذات الصياغة السيئة أو الأخطاء النحوية غالباً ما تكون علامات واضحة على محاولات التصيد الاحتيالي. وشددت برامج التوعية بالأمن السيبراني على تحديد مثل هذه الشذوذات لصد التهديدات المحتملة. ومع ذلك، فإن ظهور ChatGPT غيّر اللعبة. يمكن لأولئك الذين لديهم معرفة محدودة باللغة الإنجليزية الآن إنشاء رسائل مثالية ومقنعة باللغة الإنجليزية المثالية، مما يجعل من الصعب بشكل متزايد اكتشاف محاولات الهندسة الاجتماعية.

قامت OpenAI بتنفيذ بعض الضوابط في ChatGPT لمنع إساءة الاستخدام، لكن هذه الحواجز ليست غير قابلة للتجاوز، خاصة لأغراض الهندسة الاجتماعية. يمكن للجهات الخبيثة تعليم ChatGPT توليد رسائل بريد إلكتروني احتيالية، والتي يمكن إرسالها بعد ذلك مع روابط خبيثة أو طلبات مرفقة. العملية فعالة بشكل ملحوظ، حيث ينتج ChatGPT رسائل بريد إلكتروني بسرعة مثل المحترفين، كما هو موضح في عينة بريد إلكتروني تم إنشاؤها بناءً على الطلب.

نتائج Darktrace وصعود هجمات الهندسة الاجتماعية القائمة على الذكاء الاصطناعي

تبلغ شركة الأمن السيبراني Darktrace عن زيادة في هجمات الهندسة الاجتماعية القائمة على الذكاء الاصطناعي، وتعزو هذا الاتجاه إلى ChatGPT والأدوات المماثلة. أصبحت هذه الهجمات أكثر تعقيداً، حيث أصبحت رسائل التصيد الاحتيالي أطول، وأفضل ترقيماً، وأكثر إقناعاً. يعكس النغمة الافتراضية لـ ChatGPT التواصل المؤسسي، مما يجعل من الصعب حتى التمييز بين الرسائل الخبيثة.

منحنى التعلم الإجرامي

المجرمون الإلكترونيون متعلمون سريعون. تشير التقارير إلى أن منتديات الويب المظلم تستضيف الآن مناقشات حول استغلال ChatGPT للهندسة الاجتماعية، حيث يجد المجرمون في الدول غير المدعومة طرقاً لتجاوز القيود والاستفادة من قوتها. يتيح ChatGPT للمهاجمين توليد العديد من الرسائل الفريدة، متجنباً مرشحات البريد العشوائي التي تبحث عن محتوى متكرر. علاوة على ذلك، يساعد في إنشاء برمجيات خبيثة متعددة الأشكال، مما يجعل الكشف عنها أكثر صعوبة.

بينما يركز ChatGPT بشكل أساسي على التواصل المكتوب، يمكن لأدوات الذكاء الاصطناعي الأخرى توليد كلمات منطوقة تحاكي بشكل واقعي أفراداً محددين. تفتح هذه القدرة على تقليد الصوت الباب أمام مكالمات هاتفية تحاكي بشكل مقنع الشخصيات البارزة. يضيف هذا النهج المزدوج – رسائل بريد إلكتروني موثوقة تليها مكالمات هاتفية – طبقة من الخداع إلى هجمات الهندسة الاجتماعية.

استغلال الباحثين عن عمل وأدوات ChatGPT المزيفة

لا يقتصر ChatGPT على صياغة رسائل البريد الإلكتروني؛ بل يمكنه توليد سيرة ذاتية وخطابات تغطية على نطاق واسع، مستغلاً الباحثين عن عمل في عمليات احتيال. بالإضافة إلى ذلك، يستغل المحتكرون هوس ChatGPT بإنشاء مواقع ويب مزيفة لروبوتات الدردشة تدعي أنها تعتمد على نماذج OpenAI. تهدف هذه المواقع في الواقع إلى سرقة الأموال وجمع البيانات الشخصية.

الحماية ضد الهجمات الممكّنة بالذكاء الاصطناعي

مع انتشار الهجمات الممكّنة بالذكاء الاصطناعي، يجب على المؤسسات التكيف مع هذا المشهد المتطور للتهديدات:

1. تضمين المحتوى الذي أنشأه الذكاء الاصطناعي في محاكاة التصيد الاحتيالي لتعريف الموظفين بأساليب التواصل التي أنشأها الذكاء الاصطناعي.

2. دمج تدريب الوعي بالذكاء الاصطناعي التوليدي في برامج الأمن السيبراني، مع تسليط الضوء على كيفية استغلال ChatGPT والأدوات المماثلة.

3. استخدام أدوات الأمن السيبراني القائمة على الذكاء الاصطناعي التي تستفيد من التعلم الآلي ومعالجة اللغة الطبيعية للكشف عن التهديدات ووضع علامات على الاتصالات المشبوهة للمراجعة البشرية.

4. استخدام أدوات قائمة على ChatGPT لتحديد رسائل البريد الإلكتروني المكتوبة بواسطة الذكاء الاصطناعي التوليدي، مما يضيف طبقة إضافية من الأمان.

5. تحقق دائماً من أصالة المرسلين في رسائل البريد الإلكتروني والدردشات والرسائل النصية.

6. حافظ على اتصال مفتوح مع نظرائك في الصناعة وابقَ على اطلاع على عمليات الاحتيال الناشئة.

7. اعتمد نهج عدم الثقة الصفرية للأمن السيبراني، بافتراض أن التهديدات قد تأتي من مصادر داخلية وخارجية.

ChatGPT هو مجرد طرف الجبل الجليدي، ومن المرجح أن تظهر روبوتات محادثة مماثلة لديها إمكانية الاستغلال في هجمات الهندسة الاجتماعية قريباً. بينما تقدم هذه الأدوات فوائد كبيرة، فإنها تشكل أيضاً مخاطر كبيرة. اليقظة والتعليم وتدابير الأمن السيبراني المتقدمة ضرورية للبقاء في المقدمة في المعركة المستمرة ضد التهديدات الإلكترونية المعززة بالذكاء الاصطناعي.