أصبحت الإيصالات المزيفة التي يتم إنشاؤها بواسطة الذكاء الاصطناعي مشكلة متنامية تواجه الشركات على مستوى العالم

تواجه الشركات في جميع أنحاء العالم مشكلة متنامية حيث يستخدم العمال برامج الذكاء الاصطناعي لإنشاء إيصالات نفقات مزيفة، مما يمثل تطوراً عالي التقنية في عمليات الاحتيال في مكان العمل.

تفاقمت المشكلة منذ أن أطلقت شركات التكنولوجيا الكبرى، مثل OpenAI وجوجل، برامج ذكاء اصطناعي جديدة قادرة على إنشاء صور واقعية. وتقول شركات برامج إدارة نفقات الأعمال إنها تشهد الآن زيادة ملحوظة في عدد الإيصالات المزورة التي يقدمها الموظفون.

شركة AppZen، المتخصصة في برامج tracنفقات الشركات، أن الإيصالات المزورة التي تُنتجها تقنيات الذكاء الاصطناعي تُمثل حوالي 14% من إجمالي المستندات الاحتيالية المُقدمة في سبتمبر/أيلول. في المقابل، لم تُسجل أي حالة احتيال في العام الماضي. كما أفادت شركة Ramp، وهي شركة أخرى، أن برنامجها الجديد لكشف الاحتيال تمكن من رصد فواتير مزورة بقيمة تزيد عن مليون دولار أمريكي خلال 90 يومًا فقط.

أظهر استطلاع رأي أُجري بين مديري الأموال في الولايات المتحدة والمملكة المتحدة مدى خطورة المشكلة. فقد أفاد نحو 30% من العاملين في القطاع المالي الذين استطلعت آراؤهم شركة إدارة النفقات "ميديوس" أنهم لاحظوا ازدياداً في عدد الإيصالات المزيفة بعد إطلاق شركة "أوبن إيه آي" لنموذج "جي بي تي-40" العام الماضي.

قال كريس جونو، نائبdent الأول ورئيس قسم تسويق المنتجات في شركة SAP Concur: "أصبحت هذه الإيصالات دقيقة للغاية، لدرجة أننا ننصح عملاءنا بعدم الاعتماد على أعينهم فقط". وتُعد شركته واحدة من أكبر منصات tracالنفقات في العالم، حيث تُجري أكثر من 80 مليون عملية تدقيق امتثال شهريًا باستخدام الذكاء الاصطناعي.

لاحظت العديد من المنصات قفزة كبيرة في الإيصالات التي تم إنشاؤها بواسطة الذكاء الاصطناعي بعد أن أطلقت OpenAI ميزات إنشاء الصور المحسّنة لـ GPT-4o في مارس.

عند سؤالها عن هذه المسألة، صرّحت شركة OpenAI لصحيفة فايننشال تايمز بأنها تتخذ إجراءات عند انتهاك المستخدمين لقواعدها. وأضافت الشركة أن صورها تحتوي على معلومات مخفية تُشير إلى أنها من إنتاج برنامج ChatGPT.

الذكاء الاصطناعي يجعل تزوير المستندات في متناول الجميع

في الماضي، كان تزوير الإيصالات يتطلب معرفة كيفية تعديل الصور أو دفع المال لشخص آخر للقيام بذلك عبر خدمات الإنترنت. أما الآن، فتتيح برامج الذكاء الاصطناعي المجانية وسهلة الاستخدام للعاملين إنشاء إيصالات مزورة في ثوانٍ بمجرد كتابة تعليمات بسيطة لبرامج الدردشة الآلية.

بدت العديد من الإيصالات المزيفة التي عرضتها شركات إدارة النفقات على صحيفة فايننشال تايمز حقيقية للغاية. فقد تضمنت أوراقاً مجعدة، وقوائم مفصلة بالأصناف تطابق قوائم الطعام الفعلية للمطاعم، بالإضافة إلى التوقيعات.

"هذا ليس تهديدًا مستقبليًا؛ إنه يحدث بالفعل. في حين أن نسبة صغيرة فقط من الإيصالات غير المتوافقة يتم إنشاؤها بواسطة الذكاء الاصطناعي حاليًا، إلا أن هذا الأمر سيزداد فقط"، قال سيباستيان مارشون، الذي يدير منصة إدارة النفقات Rydoo.

الشركات تتصدى باستخدام أدوات الكشف بالذكاء الاصطناعي

نظراً لأن هذه الإيصالات المزيفة تبدو واقعية للغاية، فإن الشركات تستخدم الآن برامج الذكاء الاصطناعي لاكتشافها، حيث يكافح العمال البشريون للتمييز بين الإيصالات الحقيقية والمزيفة.

يعمل برنامج الكشف عن طريق فحص البيانات المخفية في ملفات الصور للتأكد مما إذا كان برنامج ذكاء اصطناعي قد أنشأها. لكن بإمكان الموظفين إزالة هذه المعلومات بسهولة عن طريق التقاط صورة أو لقطة شاشة للإيصال المزيف.

ولمواجهة ذلك، يقوم البرنامج أيضاً بفحص تفاصيل أخرى، مثل أسماء الخوادم المتكررة والأوقات، بالإضافة إلى معلومات أوسع حول رحلة عمل العامل.

"تستطيع هذه التقنية النظر إلى كل شيء بتفاصيل دقيقة من التركيز والانتباه، بينما يغفل البشر، بعد فترة من الزمن، عن بعض الأمور، فهم بشر في النهاية"، هذا ما قاله كالفن لي، الذي يعمل كمدير أول لإدارة المنتجات في شركة رامب.

أظهرت دراسة أجرتها شركة SAP في يوليو أن ما يقرب من 70% من المديرين الماليين يعتقدون أن موظفيهم يستخدمون الذكاء الاصطناعي لمحاولة تزوير نفقات السفر أو الإيصالات. وقال نحو 10% إنهم متأكدون من حدوث ذلك في شركاتهم.

وصف ماسون وايلدر، الذي يعمل كمدير للأبحاث في جمعية مدققي الاحتيال المعتمدين، الإيصالات المزيفة التي يتم إنشاؤها بواسطة الذكاء الاصطناعي بأنها "مشكلة كبيرة بالنسبة للمؤسسات"

وقال: "لا توجد أي عوائق أمام الناس للقيام بذلك. لا تحتاج إلى أي نوع من المهارات أو القدرات التكنولوجية كما كنت تحتاج إليها قبل خمس سنوات باستخدام برنامج فوتوشوب."