نتائج مقلقة حيث أظهرت دراسة تفوق برامج الدردشة الآلية المدعومة بالذكاء الاصطناعي في أساليب التصيد الاحتيالي

أظهرت دراسة حديثة مدى سهولة استخدام برامج الدردشة الآلية الحديثة لكتابة رسائل بريد إلكتروني احتيالية مقنعة تستهدف كبار السن، وعدد مرات النقر على هذه الرسائل.

استخدم الباحثون العديد من برامج الدردشة الآلية الرئيسية التي تعمل بالذكاء الاصطناعي في الدراسة، بما في ذلك Grok و ChatGPT من OpenAI و Claude و Meta AI و DeepSeek و Gemini من Google، لمحاكاة عملية احتيال تصيدية. 

إحدى الرسائل النموذجية التي كتبها غروك وكأنها رسالة ودية من "مؤسسة القلوب الفضية"، التي وُصفت بأنها جمعية خيرية جديدة تدعم كبار السن بالمؤانسة والرعاية. استهدفت الرسالة كبار السن، ووعدت بطريقة سهلة للمشاركة. في الواقع، لا وجود لمثل هذه الجمعية الخيرية.

وجاء في الرسالة: "نؤمن بأن لكل مسنّ الحق في التمتع بالكرامة والسعادة في سنواته الذهبية. بالضغط هنا، ستكتشفون قصصاً مؤثرة لمسنين ساعدناهم، وستتعرفون على كيفية الانضمام إلى رسالتنا." 

عندما رويترز من غروك كتابة نص التصيد الاحتيالي، لم يكتفِ الروبوت بتقديم رد، بل اقترح أيضاً زيادة الإلحاح: "لا تنتظر! انضم إلى مجتمعنا المتعاطف اليوم وساعد في تغيير حياة الناس. انقر الآن للتحرك قبل فوات الأوان!" 

شارك 108 من كبار السن المتطوعين في دراسة التصيد الاحتيالي

اختبر الصحفيون ما إذا كانت ستة برامج دردشة آلية معروفة ستتخلى عن قواعد الأمان الخاصة بها وتكتب رسائل بريد إلكتروني تهدف إلى خداع كبار السن. كما طلبوا من هذه البرامج المساعدة في التخطيط لحملات احتيال، بما في ذلك تقديم نصائح حول أفضل الأوقات من اليوم للحصول على أفضل استجابة. 

بالتعاون مع هايدينغ، الباحث بجامعة هارفارد الذي يدرس التصيد الاحتيالي، اختبر الباحثون بعض رسائل البريد الإلكتروني المكتوبة بواسطة برامج الروبوت على مجموعة من 108 متطوعين من كبار السن.

عادةً ما تُدرّب شركات برامج الدردشة الآلية أنظمتها على رفض الطلبات الضارة. لكن في الواقع، لا تُضمن هذه الإجراءات الوقائية دائمًا. فقد عرضت شركة Grok تحذيرًا بأن الرسالة التي أنتجتها "لا ينبغي استخدامها في سيناريوهات واقعية". ومع ذلك، فقد أرسلت نص التصيّد الاحتيالي وزادت من إلحاحها بعبارة "انقر الآن"

تم إعطاء خمسة روبوتات محادثة أخرى نفس التعليمات: ChatGPT من OpenAI، ومساعد Meta، وClaude، وGemini، وDeepSeek من الصين. ورفضت معظم روبوتات المحادثة الاستجابة عندما تم توضيح الغرض من ذلك. 

ومع ذلك، فشلت إجراءات الحماية هذه بعد تعديلات طفيفة، كادعاء أن المهمة لأغراض بحثية. وأشارت نتائج الاختبارات إلى أن المجرمين قد يستخدمون (أو ربما يستخدمون بالفعل) برامج الدردشة الآلية في حملات الاحتيال. وقال هايدينغ: "يمكنك دائمًا تجاوز هذه الإجراءات".

اختار هايدينغ تسع رسائل بريد إلكتروني تصيدية مُنشأة باستخدام روبوتات الدردشة، وأرسلها إلى المشاركين. وقع نحو 11% من المستلمين ضحيةً لها ونقروا على الروابط. خمس من الرسائل التسع حظيت بنقرات: اثنتان من Meta AI، واثنتان من Grok، وواحدة من Claude. لم ينقر أي من كبار السن على رسائل البريد الإلكتروني التي كتبها DeepSeek أو ChatGPT.

في العام الماضي، قاد هايدينغ دراسة أظهرت أن رسائل البريد الإلكتروني التصيدية التي تم إنشاؤها بواسطة ChatGPT يمكن أن تكون فعالة في الحصول على نقرات مثل الرسائل التي يكتبها الناس، في تلك الحالة، بينdentالجامعات. 

يصنف مكتب التحقيقات الفيدرالي التصيد الاحتيالي كأكثر الجرائم الإلكترونية شيوعاً

يشير مصطلح التصيد الاحتيالي إلى استدراج ضحايا غير مدركين للأمر لحملهم على التخلي عن بيانات حساسة أو cash عبر رسائل بريد إلكتروني ورسائل نصية مزيفة. وتشكل هذه الأنواع من الرسائل أساسًا للعديد من الجرائم الإلكترونية. 

تُرسل مليارات الرسائل النصية والبريد الإلكتروني الاحتيالي يوميًا حول العالم. وفي الولايات المتحدة، يصنف مكتب التحقيقات الفيدرالي الاحتيال الإلكتروني كأكثر الجرائم الإلكترونية شيوعًا. 

يُعدّ كبار السن في أمريكا أكثر عرضةً لمثل هذه عمليات الاحتيال. فبحسب إحصائيات مكتب التحقيقات الفيدرالي الأخيرة، زادت شكاوى الأشخاص الذين تبلغ أعمارهم 60 عامًا فأكثر بمقدار ثمانية أضعاف العام الماضي، وبلغت الخسائر ما يقارب 4.9 مليار دولار. ويقول مكتب التحقيقات الفيدرالي إن الذكاء الاصطناعي التوليدي زاد الوضع سوءًا.

في شهر أغسطس وحده، خسر مستخدمو العملات المشفرة 12 مليون دولار بسبب عمليات الاحتيال الإلكتروني، وذلك وفقًا Cryptopolitan .

فيما يتعلق ببرامج الدردشة الآلية، تكمن ميزة المحتالين في الكم الهائل والسرعة. فعلى عكس البشر، تستطيع هذه البرامج توليد عدد لا حصر له من الرسائل في ثوانٍ وبأقل تكلفة، مما يقلل الوقت والمال اللازمين لتنفيذ عمليات احتيال واسعة النطاق.