أحدث الأخبار
مختار لك

تقارير المصروفات المزيفة التي أنشأتها الذكاء الاصطناعي تصبح مشكلة متزايدة للشركات عالمياً

بقلمشوماس هومايونشوماس هومايون 3 دقائق قراءة
تقارير المصروفات المزيفة التي أنشأتها الذكاء الاصطناعي تصبح مشكلة متزايدة للشركات عالمياً
  • يستخدم الموظفون أدوات الذكاء الاصطناعي لإنشاء إيصالات مصاريف مزيفة تبدو واقعية للغاية، وتحذّر الشركات العملاء من الوثوق بأعينهم.
  • قفزت نسبة الإيصالات المزيفة المولّدة بالذكاء الاصطناعي من صفر في المائة إلى 14 في المائة من المستندات الاحتيالية خلال عام واحد فقط.
  • يعتقد ما يقرب من 70 في المائة من كبار مسؤولي المالية أن موظفيهم يستخدمون الذكاء الاصطناعي لتزوير مصاريف السفر والإيصالات.

تواجه الشركات في جميع أنحاء العالم مشكلة متزايدة حيث يستخدم الموظفون برامج الذكاء الاصطناعي لإنشاء إيصالات مصروفات مزيفة، مما يمثل لمسة عالية التقنية على الاحتيال في مكان العمل.

تفاقمت المشكلة منذ أن أطلقت شركات التكنولوجيا الكبرى، مثل OpenAI وGoogle، برامج ذكاء اصطناعي جديدة قادرة على إنشاء صور واقعية. وتقول شركات برامج مصروفات الأعمال إنها ترى الآن المزيد من الإيصالات المزيفة التي يقدمها الموظفون.

وجدت شركة AppZen، التي تصنع برامج لتتبع مصروفات الأعمال، أن الإيصالات المزيفة المصنوعة بالذكاء الاصطناعي تمثل حوالي 14 في المائة من جميع المستندات الاحتيالية المقدمة في سبتمبر. وفي العام الماضي، لم تكن هناك أي منها. وقالت شركة أخرى، Ramp، إن برنامج الكشف الجديد الخاص بها التقط أكثر من مليون دولار من الفواتير المزيفة في 90 يوماً فقط.

أظهرت دراسة استقصائية لمديري الأموال في الولايات المتحدة والمملكة المتحدة نطاق المشكلة. وقال حوالي 30 في المائة من العاملين في المجال المالي الذين استطلعت آراؤهم شركة إدارة المصروفات Medius إنهم لاحظوا المزيد من الإيصالات المزيفة بعد أن أطلقت OpenAI نموذج GPT-4o في العام الماضي.

"أصبحت هذه الإيصالات جيدة جداً، فنقول لعملائنا: 'لا تثق بعينيك'"، قال كريس جوني، الذي يعمل كنائب رئيس أول ورئيس للتسويق المنتج في SAP Concur. وشركته هي واحدة من أكبر منصات تتبع المصروفات في العالم، حيث تعالج أكثر من 80 مليون فحص امتثال كل شهر باستخدام الذكاء الاصطناعي.

لاحظت العديد من المنصات قفزة كبيرة في الإيصالات المصنوعة بالذكاء الاصطناعي بعد أن أطلقت OpenAI ميزات إنشاء الصور المحسنة في GPT-4o في مارس.

وعندما سُئلت عن هذه القضية، قالت OpenAI لـ Financial Times إنها تتخذ خطوات عندما يخالف الناس قواعدها. وقالت الشركة أيضاً إن صورها تحتوي على معلومات مخفية تظهر أنها صُنعت بواسطة ChatGPT.

الذكاء الاصطناعي يجعل الاحتيال في المستندات في متناول الجميع

في الماضي، كان إنشاء إيصالات مزيفة يتطلب معرفة كيفية تعديل الصور أو دفع شخص آخر للقيام بذلك من خلال خدمات عبر الإنترنت. والآن، تسمح برامج الذكاء الاصطناعي المجانية وسهلة الاستخدام للموظفين بإنشاء إيصالات كاذبة في ثوانٍ فقط عن طريق كتابة تعليمات بسيطة إلى روبوتات الدردشة.

بدت عدة إيصالات مزيفة عرضتها على Financial Times من قبل شركات إدارة المصروفات واقعية جداً. وشملت أوراقاً مجعدة وقوائم مفصلة للعناصر تتطابق مع قوائم طعام المطاعم الفعلية وتوقيعات.

"هذا ليس تهديداً مستقبلياً؛ إنه يحدث بالفعل. وبينما يمثل حالياً نسبة صغيرة فقط من الإيصالات غير المتوافقة إيصالات مصطنعة بالذكاء الاصطناعي، فإن هذا سيزداد فقط"، قال سيباستيان مارتشون، الذي يدير منصة إدارة المصروفات Rydoo.

الشركات ترد باستخدام أدوات كشف الذكاء الاصطناعي

بسبب ظهور هذه الإيصالات المزيفة واقعية جداً، تستخدم الشركات الآن برامج ذكاء اصطناعي لكشفها، حيث يكافح العاملون البشريون للتمييز بين الحقيقي والمزيف.

يعمل برنامج الكشف عن طريق التحقق من البيانات المخفية في ملفات الصور لمعرفة ما إذا كان برنامج ذكاء اصطناعي قد أنشأها. ولكن يمكن للعاملين إزالة هذه المعلومات بسهولة عن طريق التقاط صورة أو لقطة شاشة للإيصال المزيف.

وللمقاومة، يفحص البرنامج أيضاً تفاصيل أخرى، مثل أسماء الخوادم المتكررة والأوقات، بالإضافة إلى معلومات أوسع حول رحلة عمل الموظف.

"يمكن للتكنولوجيا النظر إلى كل شيء بدقة عالية من التركيز والاهتمام، بينما البشر، بعد فترة من الوقت، تسقط الأمور من بين الأصابع، فهم بشر"، قال كالفن لي، الذي يعمل كمدير أول لإدارة المنتج في Ramp.

وجد بحث أجرته SAP في يوليو أن ما يقرب من 70 في المائة من المدراء الماليين الرئيسيين اعتقدوا أن موظفيهم يستخدمون الذكاء الاصطناعي لمحاولة تزوير مصروفات السفر أو الإيصالات. وقال حوالي 10 في المائة إنهم متأكدون من حدوث ذلك في شركتهم.

وصف ماسون وايلدر، الذي يعمل كمدير بحث في جمعية مدققي الاحتيال المعتمدين (ACFE)، الإيصالات المزيفة المولدة بالذكاء الاصطناعي بأنها "قضية كبيرة للمنظمات".

وقال: "لا يوجد حاجز دخول للناس للقيام بذلك. لا تحتاج إلى أي مهارات أو كفاءة تكنولوجية مثل ما ربما كنت ستحتاجه قبل خمس سنوات باستخدام Photoshop".

أذكى العقول في عالم العملات الرقمية يقرأون بالفعل نشرتنا الإخبارية. هل تريد الانضمام؟ انضم إليهم.

شارك هذه المقالة
شوماس هومايون

شوماس هومايون

شوماس كاتب محتوى تقني سابق وباحث.

المزيد من الأخبار