عمليات الاحتيال المدعومة بالصوت الاصطناعي تخدع الأستراليين، هل تنتشر المخطط المريب عالمياً؟

يتبنى المحتالون في أستراليا تقنيات الذكاء الاصطناعي المتقدمة لتنفيذ عمليات احتيال معقدة تستغل ثقة الأفراد غير المدركين. تتضمن تكتيكاً مثيراً للقلق، يُعرف بالتزييف (Spoofing)، حيث يقوم المحتالون بإخفاء أرقام هواتفهم على أنها جهات اتصال موثوقة، مثل البنوك أو الجهات الحكومية أو حتى الأحباء. ما يجعل هذا الاحتيال أكثر خبثاً هو الأنظمة المدعومة بالذكاء الاصطناعي القادرة على تقليد أصوات الأفراد المألوفين بشكل لا تشوبه شائبة. ماذا لو انتشر هذا المخطط الاحتيالي عالمياً؟ يمكن أن تظهر عمليات مماثلة في أماكن أخرى بسبب انتشار طفرة الذكاء الاصطناعي.

التهديد المروع لعمليات الاحتيال المدعومة بالصوت الاصطناعي

لكشف ضعف الأفراد أمام مثل هذا الخداع، تعاونت المذيعة أميليا آدامز من برنامج 60 Minutes مع شركة الأمن السيبراني CyberCx لتنظيم عملية احتيال تستهدف أحد أفراد طاقم العمل. باستخدام تقنية الذكاء الاصطناعي، نجح جيسون إيدلشتاين، مدير CyberCx، في نسخ صوت آدامز واتصاله بزميلها دان، طالباً رقم جواز سفرها. وباعتقاد منه أن المتصل هو آدامز نفسها، كشف المتصل عن المعلومات الحساسة طواعية. يسلط هذا العرض الضوء على سهولة استغلال المحتالين لتقنية الذكاء الاصطناعي لكسب ثقة الناس والتلاعب بهم لإفشاء تفاصيل شخصية.

للأسف، وقع العديد من الأستراليين ضحية لعمليات الاحتيال بالتزييف. تضمنت إحدى هذه الحالات تيم واتكينز، المدير التنفيذي لشركة في ملبورن، الذي خسر أكثر من 220,000 دولار لمحتالين يتنكرون على أنهم بنك NAB الخاص به. قاموا بمحاكاة رقم هاتف البنك بشكل مقنع وزعموا أن حساب واتكينز قد استخدم لإجراء مشتريات غير مصرح بها. وبسبب جهله بأن الأمر عملية احتيال، قدم واتكينز لهم عن غير قصد الرموز التي أرسلها المحتالون، مما أدى إلى عدة معاملات وخسارة كبيرة. كشفت الحادثة عن نقص البروتوكولات الراسخة داخل المؤسسات المالية للتعامل مع مثل هذه الاحتيالات الإلكترونية وتخفيف آثارها بفعالية.

مكافحة محتالين الذكاء الاصطناعي ورفع مستوى الوعي

مع تزايد استخدام المحتالين لتقنية الذكاء الاصطناعي لارتكاب أنشطة احتيالية، يصبح من الضروري تطوير تدابير مضادة فعالة ورفع الوعي العام. في حين أن أدوات محاكاة الذكاء الاصطناعي لها استخدامات مشروعة، فإن إمكاناتها للإساءة والأغراض الاحتيالية تستدعي النشر المسؤول واللوائح الواضحة. تؤكد شركات مثل ElevenLabs وSynthesia، التي طورت محاكاة بشرية مولدة بالذكاء الاصطناعي، على الاستخدام الأخلاقي لتقنيتها. ومع ذلك، يشهد السوق أيضاً ظهور كيانات أقل أخلاقاً تطلق منتجات مماثلة بمعدل مقلق.

لمواجهة التحدي المتزايد لمحتالين الذكاء الاصطناعي، يتم استكشاف مبادرات وحلول متنوعة. تُبذل جهود لإنشاء أدوات كشف الذكاء الاصطناعي التي يمكنها تحديد المحتوى الاصطناعي، مثل مقاطع الفيديو العميقة المزيفة (Deepfakes)، من خلال فحص التناقضات على مستوى البكسل التي حتى أدوات الذكاء الاصطناعي المتطورة تجد صعوبة في إخفائها. بالإضافة إلى ذلك، تهدف مبادرة أصالة المحتوى (Content Authenticity Initiative)، التي بدأت في عام 2019، إلى توفير المزيد من الشفافية للمستخدمين بشأن أصل المحتوى الذي يتلقونه وإنشائه.

في المستقبل، من المرجح أن يكون هناك حاجة إلى نظام هوية رقمي وطني للتحقق من هوية الأفراد ومكافحة الموجة المتصاعدة من الاحتيال المولد بالذكاء الاصطناعي. يمكن أن يعمل مثل هذا النظام للهوية، إلى جانب زيادة التنظيم والإجراءات الحكومية، كحاجز وقائي ضد محتالين الذكاء الاصطناعي. ومع ذلك، في هذه الأثناء، من الضروري إعطاء الأولوية للوعي العام والتعليم بشأن التكتيكات المتطورة التي يستخدمها المجرمون الإلكترونيون. من خلال تعزيز الفهم وتعزيز اليقظة، يمكن للأفراد حماية أنفسهم بشكل أفضل من الوقوع ضحية لعمليات الاحتيال المدعومة بالذكاء الاصطناعي.