Le ricevute false generate dall'IA stanno diventando un problema crescente per le aziende in tutto il mondo

Le aziende in tutto il mondo stanno affrontando un problema crescente mentre i lavoratori utilizzano software di intelligenza artificiale per creare ricevute di spesa false, segnando un tocco high-tech sulla frode sul posto di lavoro.

Il problema è peggiorato da quando le principali aziende tecnologiche, come OpenAI e Google, hanno rilasciato nuovi programmi IA capaci di creare immagini realistiche. Le aziende di software per le spese aziendali dicono di vedere ora molte più ricevute false presentate dai dipendenti.

AppZen, che produce software per tracciare le spese aziendali, ha scoperto che le ricevute false create dall'IA rappresentavano circa il 14 percento di tutte le documentazioni fraudolente presentate a settembre. L'anno scorso non ce n'erano nessuna. Un'altra azienda, Ramp, ha detto che il suo nuovo software di rilevamento ha catturato più di 1 milione di dollari di fatture false in soli 90 giorni.

Un sondaggio tra i gestori di denaro negli Stati Uniti e nel Regno Unito ha mostrato l'entità del problema. Circa il 30 percento dei lavoratori finanziari intervistati dall'azienda di gestione delle spese Medius ha detto di aver notato più ricevute false dopo che OpenAI ha rilasciato GPT-4o l'anno scorso.

"Queste ricevute sono diventate così buone, diciamo ai nostri clienti: 'non fidatevi dei vostri occhi'", ha detto Chris Juneau, che lavora come vice presidente senior e head di product marketing per SAP Concur. La sua azienda è una delle piattaforme di tracciamento delle spese più grandi al mondo, elaborando più di 80 milioni di controlli di conformità ogni mese utilizzando l'IA.

Molte piattaforme hanno notato un grande aumento delle ricevute create dall'IA dopo che OpenAI ha lanciato le migliori funzionalità di creazione di immagini di GPT-4o a marzo.

Quando è stata interrogata sul problema, OpenAI ha detto al Financial Times che intraprende azioni quando le persone violano le sue regole. L'azienda ha anche detto che le sue immagini contengono informazioni nascoste che mostrano che sono state create da ChatGPT.

L'IA rende la frode documentale accessibile a tutti

In passato, creare ricevute false richiedeva la conoscenza di come modificare le foto o pagare qualcun altro per farlo attraverso servizi online. Ora, programmi IA gratuiti e facili da usare permettono ai lavoratori di creare false ricevute in pochi secondi digitando semplici istruzioni ai chatbot.

Diverse ricevute false mostrate al Financial Times dalle aziende di gestione delle spese sembravano molto reali. Includevano carta rugosa, elenchi dettagliati di articoli che corrispondevano ai menu reali dei ristoranti e firme.

"Questa non è una minaccia futura; sta già accadendo. Sebbene attualmente solo una piccola percentuale di ricevute non conformi sia generata dall'IA, questo crescerà solo", ha detto Sebastien Marchon, che gestisce la piattaforma di gestione delle spese Rydoo.

Le aziende reagiscono con strumenti di rilevamento dell'IA

Poiché queste ricevute false appaiono così realistiche, le aziende stanno ora utilizzando programmi IA per rilevarle, poiché i lavoratori umani faticano a distinguere tra quelle reali e quelle false.

Il software di rilevamento funziona controllando i dati nascosti nei file immagine per vedere se un programma IA li ha creati. Ma i lavoratori possono facilmente rimuovere queste informazioni scattando una foto o uno screenshot della ricevuta falsa.

Per reagire, il software esamina anche altri dettagli, come nomi e orari del server ripetuti, nonché informazioni più ampie sul viaggio d'affari del lavoratore.

"La tecnologia può guardare tutto con alti livelli di dettaglio, focus e attenzione che gli umani, dopo un periodo di tempo, lasciano passare, sono umani", ha detto Calvin Lee, che lavora come senior director di product management presso Ramp.

Una ricerca condotta da SAP a luglio ha scoperto che quasi il 70 percento dei direttivi finanziari credeva che i loro dipendenti stessero utilizzando l'IA per tentare di falsificare le spese di viaggio o le ricevute. Circa il 10 percento ha detto di essere certo che fosse successo nella loro azienda.

Mason Wilder, che lavora come direttore della ricerca presso l'Association of Certified Fraud Examiners, ha definito le ricevute false generate dall'IA un "problema significativo per le organizzazioni."

Ha detto: "Non c'è alcuna barriera all'ingresso per le persone per farlo. Non hai bisogno di alcuna abilità o attitudine tecnologica come forse avresti avuto cinque anni fa usando Photoshop."