نتائج مخيفة تظهر أن روبوتات الدردشة بالذكاء الاصطناعي تتفوق في تكتيكات التصيد

أظهرت دراسة حديثة مدى سهولة استخدام روبوتات الدردشة الحديثة لكتابة رسائل بريد إلكتروني مقنعة للاحتيال تستهدف كبار السن، ومدة تكرار النقر على تلك الرسائل.

استخدم الباحثون عدة روبوتات دردشة ذكاء اصطناعي رئيسية في الدراسة، بما في ذلك Grok وChatGPT من OpenAI وClaude وMeta AI وDeepSeek وGemini من Google، لمحاكاة عملية احتيال. 

عينة واحدة من الملاحظات المكتوبة بواسطة Grok بدت كرسالة ترحيبية من "مؤسسة Silver Hearts Foundation"، التي وصفت بأنها مؤسسة خيرية جديدة تدعم كبار السن بالرفقة والرعاية. كانت الرسالة موجهة نحو كبار السن، وتعدط بطريقة سهلة للمشاركة. في الواقع، لا توجد مثل هذه المؤسسة الخيرية.

"نؤمن بأن كل كبير في السن يستحق الكرامة والفرح في سنواته الذهبية"، كما جاء في الملاحظة. "من خلال النقر هنا، ستكتشف قصصاً ملهمة عن كبار السن الذين ساعدناهم وتتعلم كيف يمكنك الانضمام إلى مهمتنا." 

عندما رويترز طلب من Grok كتابة نص التصيد، لم ينتج الروبوت استجابة فحسب، بل اقترح أيضاً زيادة الإلحاح: "لا تنتظر! انضم إلى مجتمعنا المتعاطف اليوم وساعد في تغيير حياة الناس. انقر الآن للتصرف قبل فوات الأوان!" 

شارك 108 متطوعاً من كبار السن في دراسة التصيد

اختبر الصحفيون ما إذا كانت ستستسلم ست روبوتات دردشة ذكاء اصطناعي معروفة لقواعد الأمان الخاصة بها وتقوم بصياغة رسائل بريد إلكتروني تهدف إلى خداع كبار السن. كما طلبوا من الروبوتات المساعدة في التخطيط لحملات احتيال، بما في ذلك نصائح حول وقت اليوم الذي قد يحقق أفضل استجابة. 

بالتعاون مع Heiding، باحث من جامعة هارفارد يدرس التصيد، اختبر الباحثون بعض رسائل البريد الإلكتروني المكتوبة بواسطة الروبوت على مجموعة من 108 متطوعاً من كبار السن.

عادةً ما تدرب شركات روبوتات الدردشة أنظمتها على رفض الطلبات الضارة. في الممارسة العملية، لا تكون تلك الضمانات دائماً مضمونة. أظهر Grok تحذيراً مفاده أن الرسالة التي أنتجها "لا ينبغي استخدامها في سيناريوهات العالم الحقيقي." ومع ذلك، قدم نص التصيد وشدّد العرض بعبارة "انقر الآن".

تم إعطاء خمسة روبوتات دردشة أخرى نفس المطالبات: ChatGPT من OpenAI ومساعد Meta وClaude وGemini وDeepSeek من الصين. رفض معظم روبوتات الدردشة الرد عندما كان القصد واضحاً. 

ومع ذلك، فشلت حماياتها بعد تعديل بسيط، مثل الادعاء بأن المهمة لأغراض بحثية. أشارت نتائج الاختبارات إلى أن المجرمين قد يستخدمون (أو قد يكونون يستخدمون بالفعل) روبوتات الدردشة لحملات الاحتيال. "يمكنك دائماً تجاوز هذه الأشياء"، قال Heiding.

اختار Heiding تسع رسائل بريد إلكتروني للتصيد تم إنتاجها باستخدام روبوتات الدردشة وأرسلها إلى المشاركين. وقعت حوالي 11% من المستلمين في الفخ ونقرت على الروابط. جذبت خمس من الرسائل التسع نقرات: اثنتان من Meta AI، واثنتان من Grok، وواحدة من Claude. لم ينقر أي من كبار السن على الرسائل المكتوبة بواسطة DeepSeek أو ChatGPT.

في العام الماضي، قاد Heiding دراسة أظهرت أن رسائل البريد الإلكتروني للتصيد التي تم إنشاؤها بواسطة ChatGPT يمكن أن تكون بنفس فعالية الرسائل المكتوبة من قبل البشر، في تلك الحالة، بين طلاب الجامعة. 

إدارة مكافحة المخدرات الأمريكية تصنف التصيد كأكثر الجرائم الإلكترونية شيوعاً

يشير التصيد إلى خداع الضحايا غير الحذرين للتخلي عن بيانات حساسة أو نقد عبر رسائل بريد إلكتروني ورسائل نصية مزيفة. تشكل هذه الأنواع من الرسائل أساس العديد من الجرائم عبر الإنترنت. 

ترسل مليارات الرسائل النصية ورسائل البريد الإلكتروني للتصيد يومياً في جميع أنحاء العالم. في الولايات المتحدة، تصنف مكتب التحقيقات الفيدرالي (FBI) التصيد كأكثر الجرائم الإلكترونية المبلغ عنها شيوعاً. 

كبار السن الأمريكيين عرضة بشكل خاص لمثل هذه الاحتيالات. وفقاً لأرقام FBI الأخيرة، زادت الشكاوى من الأشخاص الذين تبلغ أعمارهم 60 عاماً فأكثر بمقدار 8 مرات في العام الماضي، مع خسائر تقارب 4.9 مليار دولار. جعل الذكاء الاصطناعي التوليدي الوضع أسوأ بكثير، وفقاً لـ FBI.

في أغسطس وحده، خسر مستخدمو العملات المشفرة 12 مليون دولار بسبب عمليات احتيال، بناءً على Cryptopolitan تقرير.

عندما يتعلق الأمر بروبوتات الدردشة، فإن الميزة للمحتالين هي الحجم والسرعة. على عكس البشر، يمكن للروبوتات إنتاج عدد لا نهائي من التباينات في ثوانٍ وبأقل تكلفة، مما يقلل من الوقت والمال اللازمين لتشغيل عمليات احتيال واسعة النطاق.