AI生成の偽レシートが世界中の企業にとって growing な問題となっている

世界中の企業が、労働者が人工知能ソフトウェアを使用して偽の経費レシートを作成するという、職場不正行為のハイテクな変化を示す growing な問題に直面している。

OpenAIやGoogleなどの主要テクノロジー企業が、現実的な画像を作成できる新しいAIプログラムをリリースして以来、この問題は悪化している。ビジネス経費ソフトウェア会社は、従業員によって提出される偽レシートが大幅に増加していると言っている。

ビジネス経費を追跡するソフトウェアを開発するAppZenは、AIによって作成された偽レシートがすべての 不正文書 9月に提出された。昨年、それはゼロだった。もう一つの会社、Rampは、その新しい検出ソフトウェアがわずか90日で100万ドル以上の偽請求書を捕捉したと述べた。

米国および英国のマネージャーを対象とした調査は、問題の規模を示した。経費管理会社Mediusに尋ねられた金融労働者の約30%は、昨年OpenAIがGPT-4oをリリースした後、偽レシートが増加したことに気づいたと答えた。

「これらのレシートは非常に良質になり、私たちは顧客に『目を信じるな』と言っている」と、SAP Concurでシニアバイスプレジデント兼プロダクトマーケティング責任者を務めるChris Juneau氏は述べた。同社は世界最大の経費追跡プラットフォームの一つであり、毎月8,000万件以上のコンプライアンスチェックをAIを使用して処理している。

多くのプラットフォームは、OpenAIがGPT-4oのより優れた画像作成機能を3月にリリースした後、AI製レシートの大幅な増加に気づいた。

この問題について尋ねられたOpenAIは、規則を破る人々に対して措置を講じているとFinancial Timesに語った。同社はまた、その画像にはChatGPTによって作成されたことを示す隠された情報が含まれているとも述べた。

AIは文書不正を誰でも利用可能にする

過去には、 偽レシート 現在、無料で使いやすいAIプログラムにより、労働者はコンピュータチャットボットに簡単な指示を入力するだけで、数秒で偽のレシートを作成できる。

経費管理会社によってFinancial Timesに示されたいくつかの偽レシートは非常にリアルに見えた。それらには、しわのある紙、実際のレストランメニューと一致した詳細な品目リスト、および署名が含まれていた。

「これは将来の脅威ではなく、すでに起きている。現在、非コンプライアンスレシートの小さな割合のみがAI生成であるが、これは成長するだけだ」と、経費管理プラットフォームRydooを運営するSebastien Marchon氏は述べた。

企業がAI検出ツールで対抗

これらの偽レシートが非常にリアルに見えるため、企業は現在、人間が本物と偽物を区別するのが困難であるため、AIプログラムを使用してそれらを検出している。

検出ソフトウェアは、画像ファイル内の隠されたデータをチェックして、AIプログラムによって作成されたかどうかを確認することによって機能する。しかし、労働者は偽レシートの写真やスクリーンショットを撮ることで、この情報を簡単に削除できる。

対抗するために、ソフトウェアはまた、繰り返されるサーバー名や時間などの他の詳細、および労働者の出張に関する広範な情報を調査する。

「テクノロジーは、長時間作業によって人間の注意が散漫になり、見落としが生じるような詳細な焦点と注意深さで、すべてを見ることができます」と、Rampで製品管理シニアディレクターを務めるカルビン・リー氏は述べています。

SAPが7月に実施した調査では、CFOの約70%が、従業員がAIを使用して旅費や領収書をごまかそうとしていると信じていることがわかりました。約10%は、自社の会社でそれが実際に起こったと確信していると回答しました。

公認不正調査士協会のリサーチディレクターであるメイソン・ワイルダー氏は、AI生成の偽領収書を「組織にとって重大な問題」と呼びました。

彼は次のように述べています。「これを行うための参入障壁はゼロです。5年前にPhotoshopを使用する際に必要だったような、技術的なスキルや適性は何も必要ありません。」