دراسة IBM تحذر من الإمكانات الجنائية للذكاء الاصطناعي

في دراسة حديثة أجراها فريق X-Force للاستخبارات الأمنية التابع لشركة IBM، جاء الدور الناشئ للذكاء الاصطناعي (AI) في الجريمة الإلكترونية تحت المجهر. تسلط الأبحاث الضوء على القلق المتزايد من أن المخترقين قد يستفيدون قريباً من أدوات الذكاء الاصطناعي، مثل ChatGPT، لتعزيز حملاتهم الخبيثة، مما يزيد بشكل كبير من تعقيد الهجمات الإلكترونية.

اختبر فريق X-Force تجربة وضعت رسائل البريد الإلكتروني للتصيد التي كتبها البشر مقابل تلك التي أنشأها ChatGPT. كان الهدف هو قياس معدلات النقر على هذه الرسائل، سواء للرسائل نفسها أو للروابط الخبيثة الموجودة داخلها. وبشكل مدهش، فاز المحتوى الذي كتبه البشر، ولكن بفارق ضئيل جداً. يشير هذا النتيجة إلى أن هيمنة الذكاء الاصطناعي في المصداقية والأصالة قد تكون مسألة وقت فقط، مما يشكل تحدياً جديداً لخبراء الأمن السيبراني.

على الرغم من القدرات الرائعة التي يظهرها الذكاء الاصطناعي، كشفت الدراسة أن البشر يتمتعون بميزة مميزة في مجالات مثل الذكاء العاطفي، والتخصيص، وفهم نفسية الضحايا المحتملين. وفقاً للباحثين، "يفهم البشر المشاعر بطرق لا يمكن للذكاء الاصطناعي سوى أن يحلم بها." يمكن لرسائل التصيد التي ينشئها البشر صياغة سرديات تتردد صداها عاطفياً وتبدو أكثر واقعية، مما يزيد من احتمالية نقر المستلمين على الروابط الخبيثة.

يتفوق المهاجمون البشر في التخصيص، حيث يشاركون إلى منظمات شرعية ويقدمون فوائد ملموسة للقوى العاملة، مما يجعل رسائلهم البريدية أكثر إغراءً للمستلمين. علاوة على ذلك، يتقن البشر تجنب الشكوك من خلال استخدام عناوين بريد إلكتروني موجزة، على عكس رسائل التصيد التي ينشئها الذكاء الاصطناعي، والتي تميل إلى استخدام عناوين بريد إلكتروني طويلة قد تثير جرس الإنذار حتى قبل فتح الرسالة.

تسلط دراسة فريق X-Force الضوء على نقاط القوة والضعف الكامنة في الذكاء الاصطناعي مقارنة بمخترقي البشر. وعلى الرغم من أن الذكاء الاصطناعي يمكنه إنشاء محتوى تصيد بسرعة، إلا أنه يفتقر إلى الجاذبية العاطفية، والتخصيص، وتجنب الشكوك.

كفاءة الذكاء الاصطناعي والتهديدات الناشئة

واحدة من النتائج البارزة للدراسة هي كفاءة الذكاء الاصطناعي في إنشاء محتوى التصيد. أظهر فريق X-Force أنهم يمكنهم استخدام نموذج ذكاء اصطناعي توليدي لتأليف رسالة تصيد مقنعة في خمس دقائق فقط، بناءً على خمسة أوامر. في المقابل، يتطلب صياغة مثل هذه الرسالة يدوياً حوالي 16 ساعة من الجهد البشري. تشير هذه الكفاءة إلى أن الذكاء الاصطناعي لديه القدرة على تقليل الوقت والجهد المطلوبين للمجرمين السيبرانيين لإطلاق حملات تصيد واسعة النطاق بشكل كبير.

كما كشفت الدراسة عن وجود نماذج ذكاء اصطناعي توليدية، مثل WormGPT، على منتديات مختلفة، حيث يتم الإعلان عنها للبيع مع قدرات تصيد. هذا يشير إلى أن المجرمين السيبرانيين يستكشفون بنشاط الاستخدام المحتمل للذكاء الاصطناعي في حملات التصيد. وعلى الرغم من أن الحملات الحالية لم تعتمد على نطاق واسع الذكاء الاصطناعي التوليدي، إلا أن هناك قلقاً متزايداً من أن نماذج اللغات الكبيرة غير المقيدة أو شبه المقيدة (LLMs) قد توفر للمهاجمين أدوات أكثر كفاءة لصياغة رسائل تصيد معقدة في المستقبل.

إن آثار دور الذكاء الاصطناعي في الجريمة الإلكترونية بعيدة المدى وتشكل تحديات كبيرة لخبراء الأمن السيبراني. مع استمرار تقدم الذكاء الاصطناعي، قد يستغل المجرمون السيبرانيون قدراته لإنشاء هجمات تصيد أكثر إقناعاً وتعقيداً، مما قد يزيد من معدلات نجاح حملاتهم.

الضرورة المستمرة للتكيف مع الأمن السيبراني

يؤكد هذا المشهد المتغير للتهديدات على الحاجة إلى التكيف المستمر والابتكار في استراتيجيات الأمن السيبراني. يجب على المنظمات ومحترفي الأمن البقاء يقظين وتطوير تقنيات وأدوات جديدة للكشف عن التهديدات السيبرانية المدعومة بالذكاء الاصطناعي وتخفيفها بفعالية. يظل التأكيد على وعي الموظفين وتدريبهم للتعرف على محاولات التصيد، بغض النظر عن مصدرها، مكوناً حاسماً في دفاعات الأمن السيبراني.

الخلاصة

تسلط دراسة فريق X-Force للاستخبارات الأمنية التابع لشركة IBM الضوء على التهديد المتطور الناجم عن دمج أدوات الذكاء الاصطناعي التوليدي في الأنشطة الإجرامية الإلكترونية. وعلى الرغم من أن البشر لا يزالون يحتفظون بميزة من حيث الذكاء العاطفي، والتخصيص، وتجنب الشكوك في حملات التصيد، فإن كفاءة الذكاء الاصطناعي في إنشاء محتوى خبيث هي سبب للقلق.

مع استمرار تطور الذكاء الاصطناعي وزيادة إمكانية وصول الجهات الخبيثة إليه، يجب على المنظمات ومحترفي الأمن السيبراني التكيف بشكل proactively للدفاع ضد هذه التهديدات الناشئة. تتطلب المعركة ضد الهجمات السيبرانية المدعومة بالذكاء الاصطناعي نهجاً متعدد الأوجه، بما في ذلك آليات الكشف المتقدمة، وتوعية الموظفين، والابتكار المستمر في مجال الأمن السيبراني. في هذا المشهد المتطور، يظل التفوق على المجرمين السيبرانيين خطوة ضرورية لحماية الأصول الرقمية والحماية من الانتهاكات المحتملة.