KI-generierte gefälschte Belege stellen weltweit ein zunehmendes Problem für Unternehmen dar

Unternehmen auf der ganzen Welt sehen sich mit einem wachsenden Problem konfrontiert: Mitarbeiter nutzen Software mit künstlicher Intelligenz, um gefälschte Spesenabrechnungen zu erstellen – eine Hightech-Variante des Betrugs am Arbeitsplatz.

Das Problem hat sich verschärft, seit große Technologieunternehmen wie OpenAI und Google neue KI-Programme veröffentlicht haben, die realistische Bilder erzeugen können. Anbieter von Software für Spesenabrechnungen berichten von einem deutlichen Anstieg gefälschter Belege, die von Mitarbeitern eingereicht werden.

AppZen, ein Softwarehersteller zur tracvon Geschäftsausgaben, stellte fest, dass im September etwa 14 Prozent aller Betrugsbelege . Im Vorjahr gab es keine. Ein anderes Unternehmen, Ramp, berichtete, dass seine neue Erkennungssoftware innerhalb von nur 90 Tagen gefälschte Rechnungen im Wert von über einer Million Dollar aufgedeckt hat.

Eine Umfrage unter Vermögensverwaltern in den USA und Großbritannien verdeutlichte das Ausmaß des Problems. Rund 30 Prozent der von dem Spesenmanagement-Unternehmen Medius befragten Finanzfachleute gaben an, seit der Veröffentlichung von GPT-40 durch OpenAI im vergangenen Jahr vermehrt gefälschte Belege bemerkt zu haben.

„Diese Belege sind mittlerweile so gut, dass wir unseren Kunden raten: ‚Vertrauen Sie nicht Ihren Augen‘“, sagte Chris Juneau, Senior Vicedent und Leiter Produktmarketing bei SAP Concur. Sein Unternehmen ist eine der weltweit größten Plattformen tracund verarbeitet monatlich über 80 Millionen Compliance-Prüfungen mithilfe von KI.

Viele Plattformen verzeichneten einen deutlichen Anstieg bei KI-generierten Belegen, nachdem OpenAI im März die verbesserten Bildgenerierungsfunktionen von GPT-4o eingeführt hatte.

Auf Nachfrage der Financial Times erklärte OpenAI, dass das Unternehmen bei Regelverstößen Maßnahmen ergreift. Zudem gab OpenAI an, dass die Bilder versteckte Informationen enthielten, die auf die Urheberschaft von ChatGPT hinwiesen.

KI macht Dokumentenfälschung für alle zugänglich

Früher musste man für die Herstellung gefälschter Quittungen entweder Fotos bearbeiten können oder jemanden über Online-Dienste damit beauftragen. Heute ermöglichen kostenlose und benutzerfreundliche KI-Programme es Mitarbeitern, innerhalb von Sekunden gefälschte Quittungen zu erstellen, indem sie einfach Anweisungen in Computer-Chatbots eingeben.

Mehrere gefälschte Quittungen, die der Financial Times von Spesenabrechnungsunternehmen vorgelegt wurden, sahen täuschend echt aus. Sie enthielten zerknittertes Papier, detaillierte Listen von Artikeln, die echten Restaurantmenüs entsprachen, und Unterschriften.

„Das ist keine zukünftige Bedrohung; es geschieht bereits. Zwar ist derzeit nur ein geringer Prozentsatz der nicht konformen Belege KI-generiert, aber dieser Anteil wird steigen“, sagte Sebastien Marchon, der die Spesenmanagement-Plattform Rydoo leitet.

Unternehmen wehren sich mit KI-Erkennungstools

Weil diese gefälschten Belege so realistisch aussehen, setzen Unternehmen jetzt KI-Programme ein, um sie zu erkennen, da es für menschliche Mitarbeiter schwierig ist, zwischen echt und gefälscht zu unterscheiden.

Die Erkennungssoftware funktioniert, indem sie die versteckten Daten in Bilddateien überprüft, um festzustellen, ob diese von einem KI-Programm erstellt wurden. Mitarbeiter können diese Informationen jedoch leicht entfernen, indem sie ein Foto oder einen Screenshot der gefälschten Quittung anfertigen.

Um dem entgegenzuwirken, untersucht die Software auch andere Details, wie beispielsweise wiederholte Servernamen und -zeiten, sowie weitergehende Informationen über die Geschäftsreise des Mitarbeiters.

„Die Technologie kann alles mit hoher Detailgenauigkeit und Aufmerksamkeit betrachten, die Menschen nach einer gewissen Zeit übersehen, das ist menschlich“, sagte Calvin Lee, Senior Director of Product Management bei Ramp.

Eine im Juli von SAP durchgeführte Studie ergab, dass fast 70 Prozent der Finanzchefs vermuteten, ihre Mitarbeiter würden KI einsetzen, um Reisekostenabrechnungen oder Belege zu fälschen. Rund 10 Prozent gaben an, sicher zu sein, dass dies in ihrem Unternehmen vorgekommen sei.

Mason Wilder, Forschungsdirektor bei der Association of Certified Fraud Examiners, bezeichnete KI-generierte gefälschte Belege als „ein bedeutendes Problem für Unternehmen“

Er sagte: „Es gibt keinerlei Einstiegshürden dafür. Man braucht keinerlei technische Kenntnisse oder Fähigkeiten, wie man sie vielleicht vor fünf Jahren für die Nutzung von Photoshop benötigt hätte.“