المجرمون السيبرانيون يستغلون تقنيات الذكاء الاصطناعي وتعلم الآلة لأغراض خبيثة

يكشف ورقة بحثية جديدة أنتجها بشكل مشترك Trend Micro، ومعهد الأمم المتحدة للبحث في الجريمة والعدالة الإقليمي (UNICRI)، وEuropol، عن كيفية استغلال المجرمين السيبرانيين لتقنيات الذكاء الاصطناعي (AI) وتعلم الآلة (ML) لأغراض خبيثة.

الذكاء الاصطناعي وتعلم الآلة في الأعمال

تدفع تقنيات الذكاء الاصطناعي وتعلم الآلة بسرعة نحو تطوير عالم أكثر ديناميكية. تعد هذه التقنيات بكفاءة أكبر، ومستويات أعلى من الأتمتة، والاستقلالية. الذكاء الاصطناعي هو تقنية ذات استخدام مزدوج في قلب الثورة الصناعية الرابعة. مع تعلم الآلة، وهو حقل فرعي من الذكاء الاصطناعي يحلل كميات كبيرة من البيانات للعثور على الأنماط عبر الخوارزميات، يمكن للمؤسسات والمنظمات والحكومات إنجاز إنجازات مذهلة تدفع الابتكار وتحسن الأعمال. كان 37% من الشركات والمنظمات قد دمجوا بالفعل الذكاء الاصطناعي في أنظمتها وعملياتها بحلول عام 2020. تتيح الأدوات المدعومة بالذكاء الاصطناعي وتعلم الآلة للمؤسسات التنبؤ بسلوكيات الشراء للعملاء بشكل أفضل، مما يساهم في زيادة الإيرادات. بنت بعض المؤسسات، مثل أمازون، أعمالاً مربحة للغاية بمساعدة الأدوات المدعومة بتعلم الآلة والذكاء الاصطناعي.

إساءة استخدام وتوظيف تقنيات الذكاء الاصطناعي والتعلم الآلي

في حين يمكن لتقنيات الذكاء الاصطناعي والتعلم الآلي دعم الشركات والمساعدة في حل بعض أكبر التحديات التي تواجه المجتمع، فإن هذه التقنيات قد تتيح أيضاً مجموعة واسعة من التهديدات الرقمية والمادية والسياسية. إن السمات التي تجعل أنظمة الذكاء الاصطناعي والتعلم الآلي لا غنى عنها للشركات هي نفسها السمات التي يستغلها مجرمو الإنترنت لإساءة الاستخدام وتحقيق مكاسب غير مشروعة.

*الفيديوهات المزيفة العميقة (Deepfakes)*: تُعد الفيديوهات المزيفة العميقة واحدة من أشهر أشكال إساءة استخدام الذكاء الاصطناعي، حيث تتضمن استخدام تقنيات الذكاء الاصطناعي لصياغة أو التلاعب بالمحتوى الصوتي والمرئي ليبدو أصلياً. وتُعد الفيديوهات المزيفة العميقة مناسبة لحملات التضليل نظراً لصعوبة تمييزها عن المحتوى الشرعي. ولديها القدرة على تشويه الواقع لأغراض خبيثة، كما ظهر في فيديو مزيف عميق ادُعي أنه زعزع استقرار حكومة ائتلافية في ماليزيا، وفي تسجيل صوتي مزيف خدع شركة طاقة بريطانية لنقل ما يقرب من 200,000 جنيه إسترليني إلى حساب بنكي في هنغاريا.

*تخمين كلمات المرور المدعوم بالذكاء الاصطناعي*: يستخدم مجرمو الإنترنت التعلم الآلي لتحسين الخوارزميات الخاصة بتخمين كلمات مرور المستخدمين. ومن خلال الشبكات العصبية وشبكات الخصوم التوليدية (GANs)، يمكن لمجرمي الإنترنت تحليل مجموعات بيانات ضخمة من كلمات المرور وتوليد متغيرات تناسب التوزيع الإحصائي، مما يؤدي إلى تخمينات أكثر دقة واستهدافاً لكلمات المرور.

*التنكر البشري على منصات الشبكات الاجتماعية*: يستغل مجرمو الإنترنت الذكاء الاصطناعي لمحاكاة السلوك البشري على منصات التواصل الاجتماعي. على سبيل المثال، يمكن للروبوتات المدعومة بالذكاء الاصطناعي على منصة Spotify محاكاة أنماط الاستخدام البشرية للتغلب على أنظمة كشف الروبوتات وتوليد استماع مراد وحركة مرور احتيالية لفنانين محددين.

*القرصنة المدعومة بالذكاء الاصطناعي*: يقوم مجرمو الإنترنت بتسليح أطر عمل الذكاء الاصطناعي لاختراق المضيفين الضعفاء. على سبيل المثال، يستخدم DeepExploit، وهو أداة اختبار اختراق مدعومة بالتعلم الآلي، وPWnagotchi 1.0.0، المطور لاختراق شبكات Wi-Fi من خلال هجمات فك المصادقة، نماذج الشبكات العصبية لتحسين أداء القرصنة.

إساءات مستقبلية محتملة لتقنيات الذكاء الاصطناعي والتعلم الآلي

من المتوقع في المستقبل أن يستغل المجرمون الذكاء الاصطناعي لتعزيز نطاق و規模 هجماتهم، وتجنب الكشف، وإساءة استخدام الذكاء الاصطناعي كسلاح هجوم وكمساحة هجوم. يمكن للذكاء الاصطناعي أتمتة الخطوات الأولى للهجوم من خلال توليد المحتوى، وتحسين جمع المعلومات الاستخباراتية التجارية، وتسريع معدل اكتشاف اختراق الضحايا المحتملين وعمليات الأعمال. كما يمكن إساءة استخدام الذكاء الاصطناعي للتلاعب بممارسات تداول العملات المشفرة وإلحاق الضرر أو إحداث أضرار مادية بالأفراد، كما هو الحال في الطائرات المسيرة المدعومة بالذكاء الاصطناعي والتي تستخدم التعرف على الوجوه لحمل المتفجرات.

تمتلك تقنيات الذكاء الاصطناعي والتعلم الآلي العديد من حالات الاستخدام الإيجابية، لكنها تُساء استخدامها أيضاً لأغراض إجرامية وخبيثة. ومن الضروري فهم القدرات والسيناريوهات ووسائل الهجوم التي توضح كيفية استغلال هذه التقنيات لحماية الأنظمة والأجهزة والجمهور العام من الهجمات والإساءات المتقدمة.

حول البحث

يُعد ورقة البحث المعنونة بـ "الاستخدامات الخبيثة وإساءة استخدام الذكاء الاصطناعي" جهداً مشتركاً بين شركة تريند مايكرو (Trend Micro)، ومعهد الأمم المتحدة الإقليمي لبحوث الجريمة والعدالة (UNICRI)، واليوروبول (Europol). تناقش الورقة الاستخدامات الخبيثة الحالية وإساءة استخدام تقنيات الذكاء الاصطناعي والتعلم الآلي، والسيناريوهات المستقبلية المحتملة التي قد يستغل فيها مجرمو الإنترنت هذه التقنيات لتحقيق مكاسب غير مشروعة.

تمتلك تقنيات الذكاء الاصطناعي والتعلم الآلي العديد من حالات الاستخدام الإيجابية، بما في ذلك الإدراك البصري، والتعرف على الكلام، وترجمة اللغات، واستخراج الأنماط، ووظائف اتخاذ القرار في مختلف المجالات والصناعات. ومع ذلك، تُساء استخدام هذه التقنيات أيضاً لأغراض إجرامية وخبيثة. ومن الضروري فهم القدرات والسيناريوهات ووسائل الهجوم التي توضح كيفية استغلال هذه التقنيات لحماية الأنظمة والأجهزة والجمهور العام من الهجمات والإساءات المتقدمة.