Les faux reçus générés par l'IA deviennent un problème croissant pour les entreprises du monde entier

- Des employés utilisent des outils d'IA pour créer des reçus de frais réalistes, au point que les entreprises mettent en garde leurs clients contre la fiabilité de leurs propres yeux.
- Le nombre de reçus falsifiés générés par l'IA est passé de zéro à 14 % des documents frauduleux en seulement un an.
- Près de 70 % des directeurs financiers estiment que leurs employés utilisent l'intelligence artificielle pour falsifier les frais de voyage et les reçus.
Les entreprises du monde entier font face à un problème croissant alors que les employés utilisent des logiciels d'intelligence artificielle pour créer de faux reçus de dépenses, marquant une nouvelle dimension high-tech de la fraude en milieu de travail.
Le problème s'est aggravé depuis que les grandes entreprises technologiques, telles qu'OpenAI et Google, ont lancé de nouveaux programmes d'IA capables de créer des images réalistes. Les entreprises de logiciels de dépenses professionnelles indiquent qu'elles voient désormais beaucoup plus de faux reçus soumis par les employés.
AppZen, qui fabrique des logiciels pour suivre les dépenses professionnelles, a constaté que les faux reçus créés par l'IA représentaient environ 14 % de tous les documents frauduleux soumis en septembre. L'année dernière, il n'y en avait aucun. Une autre entreprise, Ramp, a déclaré que son nouveau logiciel de détection a capturé plus d'un million de dollars de fausses factures en seulement 90 jours.
Une enquête auprès de gestionnaires de fonds aux États-Unis et au Royaume-Uni a montré l'ampleur du problème. Environ 30 % des travailleurs financiers interrogés par la société de gestion des dépenses Medius ont déclaré avoir remarqué plus de faux reçus après le lancement de GPT-4o par OpenAI l'année dernière.
« Ces reçus sont devenus si bons que nous disons à nos clients : « ne faites pas confiance à vos yeux », a déclaré Chris Juneau, qui occupe le poste de vice-président senior et responsable du marketing produit pour SAP Concur. Son entreprise est l'une des plus grandes plateformes de suivi des dépenses au monde, traitant plus de 80 millions de vérifications de conformité chaque mois à l'aide de l'IA.
De nombreuses plateformes ont remarqué une forte augmentation des reçus créés par l'IA après le lancement par OpenAI des meilleures fonctionnalités de création d'images de GPT-4o en mars.
Lorsqu'on lui a demandé de commenter le problème, OpenAI a déclaré au Financial Times qu'elle prenait des mesures lorsque les gens violaient ses règles. L'entreprise a également déclaré que ses images contiennent des informations cachées qui indiquent qu'elles ont été créées par ChatGPT.
L'IA rend la fraude documentaire accessible à tous
Par le passé, la création de faux reçus nécessitait de savoir modifier des photos ou de payer quelqu'un d'autre pour le faire via des services en ligne. Maintenant, des programmes d'IA gratuits et faciles à utiliser permettent aux travailleurs de créer de faux reçus en quelques secondes simplement en tapant des instructions simples dans des chatbots informatiques.
Plusieurs faux reçus montrés au Financial Times par des sociétés de gestion des dépenses semblaient très réalistes. Ils comprenaient du papier froissé, des listes détaillées d'articles correspondant aux menus réels de restaurants, et des signatures.
« Ce n'est pas une menace future ; cela se produit déjà. Bien que actuellement seul un petit pourcentage de reçus non conformes soient générés par l'IA, cela ne va qu'augmenter », a déclaré Sebastien Marchon, qui dirige la plateforme de gestion des dépenses Rydoo.
Les entreprises ripostent avec des outils de détection par IA
Parce que ces faux reçus semblent si réalistes, les entreprises utilisent désormais des programmes d'IA pour les détecter, les travailleurs humains ayant du mal à distinguer le vrai du faux.
Le logiciel de détection fonctionne en vérifiant les données cachées dans les fichiers image pour voir si un programme d'IA les a créés. Mais les travailleurs peuvent facilement supprimer ces informations en prenant une photo ou une capture d'écran du faux reçu.
Pour riposter, le logiciel examine également d'autres détails, tels que les noms de serveurs et les heures répétés, ainsi que des informations plus larges sur le voyage d'affaires du travailleur.
« La technologie peut tout examiner avec un niveau de détail, de focus et d'attention que les humains, après un certain temps, laissent passer, car ils sont humains », a déclaré Calvin Lee, qui occupe le poste de directeur senior de la gestion de produit chez Ramp.
Une recherche menée par SAP en juillet a révélé que près de 70 % des directeurs financiers estimaient que leurs employés utilisaient l'IA pour tenter de falsifier les frais de voyage ou les reçus. Environ 10 % ont déclaré être certains que cela s'était produit dans leur entreprise.
Mason Wilder, qui occupe le poste de directeur de la recherche à l'Association des experts certifiés en examen de la fraude, a qualifié les faux reçus générés par l'IA de « problème important pour les organisations ».
Il a déclaré : « Il n'y a aucune barrière à l'entrée pour les personnes qui veulent le faire. Vous n'avez besoin d'aucune compétence ou aptitude technologique comme vous en auriez peut-être eu besoin il y a cinq ans avec Photoshop. »
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.

Shummas Humayun
Shummas est une ancienne rédactrice technique spécialisée dans le contenu et une chercheuse.














