Les faux reçus générés par l'IA constituent un problème croissant pour les entreprises du monde entier

Partout dans le monde, les entreprises sont confrontées à un problème croissant : des employés utilisent des logiciels d'intelligence artificielle pour créer de faux justificatifs de frais, ce qui représente une version high-tech de la fraude en milieu professionnel.

Le problème s'est aggravé depuis que de grandes entreprises technologiques, comme OpenAI et Google, ont publié de nouveaux programmes d'IA capables de créer des images réalistes. Les éditeurs de logiciels de gestion des notes de frais constatent une forte augmentation des faux reçus remis par les employés.

AppZen, éditeur de logiciels de tracdes dépenses professionnelles, a constaté que les faux reçus générés par l'IA représentaient environ 14 % de tous les documents frauduleux soumis en septembre. L'année dernière, aucun document de ce type n'avait été recensé. Par ailleurs, la société Ramp a indiqué que son nouveau logiciel de détection avait permis de repérer plus d'un million de dollars de fausses factures en seulement 90 jours.

Une enquête menée auprès de gestionnaires de fonds aux États-Unis et au Royaume-Uni a révélé l'ampleur du problème. Environ 30 % des professionnels de la finance interrogés par la société de gestion des dépenses Medius ont déclaré avoir constaté une augmentation des faux reçus après la publication du modèle GPT-40 par OpenAI l'année dernière.

« Ces reçus sont devenus tellement fiables que nous disons à nos clients : “Ne vous fiez pas à ce que vous voyez” », explique Chris Juneau, vice-dent senior et responsable du marketing produit chez SAP Concur. Son entreprise est l'une des plus importantes plateformes tracdes dépenses au monde, traitant plus de 80 millions de contrôles de conformité chaque mois grâce à l'intelligence artificielle.

De nombreuses plateformes ont constaté une forte augmentation des reçus générés par l'IA après le lancement par OpenAI, en mars, des fonctionnalités améliorées de création d'images de GPT-4o.

Interrogée à ce sujet par le Financial Times, OpenAI a indiqué prendre des mesures lorsque ses règles sont enfreintes. L'entreprise a également précisé que ses images contiennent des informations cachées prouvant qu'elles ont été créées par ChatGPT.

L'IA rend la falsification de documents accessible à tous

Auparavant, pour falsifier des reçus , il fallait savoir retoucher des photos ou faire appel à un service en ligne. Désormais, des logiciels d'IA gratuits et faciles d'utilisation permettent de créer de faux reçus en quelques secondes, simplement en donnant des instructions à des chatbots.

Plusieurs faux reçus présentés au Financial Times par des sociétés de gestion des dépenses semblaient tout à fait authentiques. Ils comportaient du papier froissé, des listes détaillées d'articles correspondant à de véritables menus de restaurants, et des signatures.

« Ce n’est pas une menace future ; c’est déjà une réalité. Si actuellement seul un faible pourcentage de reçus non conformes sont générés par l’IA, ce chiffre ne fera que croître », a déclaré Sébastien Marchon, qui dirige la plateforme de gestion des dépenses Rydoo.

Les entreprises ripostent grâce à des outils de détection par IA

Comme ces faux reçus semblent si réalistes, les entreprises utilisent désormais des programmes d'IA pour les détecter, car les employés humains ont du mal à faire la distinction entre les vrais et les faux.

Le logiciel de détection fonctionne en vérifiant les données cachées dans les fichiers image afin de déterminer si elles ont été créées par un programme d'IA. Cependant, les employés peuvent facilement supprimer ces informations en prenant une photo ou une capture d'écran du faux reçu.

Pour contrer cette stratégie, le logiciel examine également d'autres détails, tels que les noms de serveurs et les heures de connexion récurrents, ainsi que des informations plus générales sur le voyage d'affaires du travailleur.

« La technologie peut tout analyser avec un niveau de détail et d'attention tel que, chez l'humain, au bout d'un certain temps, des choses passent inaperçues ; c'est humain », a déclaré Calvin Lee, directeur principal de la gestion des produits chez Ramp.

Une étude menée par SAP en juillet a révélé que près de 70 % des directeurs financiers pensaient que leurs employés utilisaient l'IA pour tenter de falsifier des notes de frais ou des reçus. Environ 10 % se disaient certains que cela s'était produit au sein de leur entreprise.

Mason Wilder, directeur de recherche à l'Association des examinateurs de fraude certifiés, a qualifié les faux reçus générés par l'IA de « problème important pour les organisations »

Il a déclaré : « Il n'y a absolument aucune barrière à l'entrée pour que les gens puissent faire cela. Vous n'avez besoin d'aucune compétence ou aptitude technique comme cela aurait peut-être été nécessaire il y a cinq ans pour utiliser Photoshop. »