Von KI generierte gefälschte Quittungen werden zu einem wachsenden Problem für Unternehmen weltweit

Unternehmen weltweit sehen sich einem wachsenden Problem gegenüber, da Mitarbeiter künstliche Intelligenz-Software verwenden, um gefälschte Ausgabenquittungen zu erstellen, was eine hochtechnologische Wendung im Bereich der Betrugsfälle am Arbeitsplatz darstellt.

Das Problem hat sich verschärft, seit große Technologieunternehmen wie OpenAI und Google neue KI-Programme veröffentlicht haben, die realistische Bilder erstellen können. Unternehmen, die Software für Geschäftsausgaben anbieten, berichten, dass sie nun deutlich mehr gefälschte Quittungen von Mitarbeitern vorgelegt bekommen.

AppZen, ein Anbieter von Software zur Verfolgung von Geschäftsausgaben, stellte fest, dass von KI erstellte gefälschte Quittungen etwa 14 Prozent aller betrügerischen Dokumente ausmachen, die im September eingereicht wurden. Im Vorjahr gab es keine. Ein anderes Unternehmen, Ramp, sagte, seine neue Detektionssoftware habe in nur 90 Tagen gefälschte Rechnungen im Wert von mehr als 1 Million US-Dollar entdeckt.

Eine Umfrage unter Geldmanagern in den Vereinigten Staaten und dem Vereinigten Königreich zeigte das Ausmaß des Problems. Etwa 30 Prozent der von der Ausgabenmanagement-Firma Medius befragten Finanzmitarbeiter gaben an, dass sie nach der Veröffentlichung von GPT-4o durch OpenAI im vergangenen Jahr mehr gefälschte Quittungen bemerkt haben.

„Diese Quittungen sind so gut geworden, dass wir unseren Kunden sagen: ‚Vertrauen Sie Ihren Augen nicht‘“, sagte Chris Juneau, Senior Vice President und Leiter des Produktmarketings bei SAP Concur. Sein Unternehmen ist eine der größten Plattformen zur Verfolgung von Ausgaben weltweit und verarbeitet jeden Monat mehr als 80 Millionen Compliance-Prüfungen unter Einsatz von KI.

Viele Plattformen verzeichneten einen starken Anstieg der von KI erstellten Quittungen, nachdem OpenAI im März die verbesserten Bilderstellungsfunktionen von GPT-4o eingeführt hatte.

Als OpenAI nach dem Problem gefragt wurde, teilte es dem Financial Times mit, dass es Maßnahmen ergreift, wenn Menschen gegen seine Regeln verstoßen. Das Unternehmen sagte auch, dass seine Bilder versteckte Informationen enthalten, die anzeigen, dass sie von ChatGPT erstellt wurden.

KI macht Dokumentenbetrug für jeden zugänglich

In der Vergangenheit erforderte das Erstellen gefälschter Quittungen Kenntnisse in der Bildbearbeitung oder das Bezahlen Dritter über Online-Dienste. Jetzt ermöglichen kostenlose und einfach zu bedienende KI-Programmen Mitarbeitern, in Sekundenschnelle falsche Quittungen zu erstellen, indem sie einfache Anweisungen an Computer-Chatbots eingeben.

Mehrere betrügerische Quittungen, die Expense-Management-Unternehmen der Financial Times zeigten, sahen sehr echt aus. Sie bestanden aus knitterigem Papier, detaillierten Positionslisten, die mit echten Restaurantmenüs übereinstimmten, und Unterschriften.

„Dies ist keine zukünftige Bedrohung; sie findet bereits statt. Derzeit ist nur ein kleiner Prozentsatz der nicht konformen Quittungen KI-generiert, aber dies wird nur noch zunehmen“, sagte Sebastien Marchon, der die Expense-Management-Plattform Rydoo betreibt.

Unternehmen wehren sich mit KI-Erkennungstools

Da diese gefälschten Quittungen so realistisch aussehen, setzen Unternehmen nun KI-Programme zu deren Erkennung ein, da menschliche Mitarbeiter Schwierigkeiten haben, zwischen echten und gefälschten Quittungen zu unterscheiden.

Die Erkennungssoftware überprüft die versteckten Daten in Bilddateien, um festzustellen, ob ein KI-Programm diese erstellt hat. Mitarbeiter können diese Informationen jedoch leicht entfernen, indem sie ein Foto oder einen Screenshot der gefälschten Quittung machen.

Um gegenzusteuern, untersucht die Software auch andere Details, wie wiederholte Kellnernamen und Uhrzeiten sowie umfassendere Informationen über die Geschäftsreise des Mitarbeiters.

„Die Technologie kann alles mit hoher Detailgenauigkeit und Aufmerksamkeit betrachten, während Menschen im Laufe der Zeit Fehler übersehen, weil sie menschlich sind“, sagte Calvin Lee, Senior Director of Product Management bei Ramp.

Eine im Juli von SAP durchgeführte Studie ergab, dass fast 70 Prozent der Chief Financial Officers (CFOs) glaubten, dass ihre Mitarbeiter KI nutzen, um Reisekosten oder Quittungen zu fälschen. Etwa 10 Prozent waren sich sicher, dass dies in ihrem Unternehmen bereits geschehen war.

Mason Wilder, Research Director bei der Association of Certified Fraud Examiners, bezeichnete KI-generierte gefälschte Quittungen als „ein erhebliches Problem für Organisationen.“

Er sagte: „Es gibt keine Eintrittsbarriere für Menschen, dies zu tun. Man benötigt keine technologischen Fähigkeiten oder Kenntnisse, wie man sie vielleicht vor fünf Jahren noch für die Arbeit mit Photoshop gebraucht hätte.“