Laut einem gemeinsam erstellten und neu veröffentlichten Bericht von Europol, dem Interregionalen Forschungsinstitut der Vereinten Nationen für Kriminalität und Justiz (UNICRI) und Trend Micro gelingt es Kriminellen dank künstlicher Intelligenz (KI) immer besser, mit ihren Betrügereien davonzukommen.
Der Bericht enthüllt, dass organisierte Verbrecherbanden zunehmend auf KI-gestützte Betrugsmaschen und Zahlungssysteme setzen, um Opfer ins Visier zu nehmen. Die Fähigkeiten der KI ermöglichen es diesen kriminellen Gruppen, ihre Operationen rasant und global auszuweiten, was ihre Aufdeckung erschwert.
Der Zugang zu KI-Technologie ermöglicht es ihnen, Nachrichten in mehreren Sprachen zu verfassen und sehr realistische Duplikate zu erstellen, um Personen zu imitieren und Opfer bei globalen Cyberbetrugsoperationen zu erpressen, heißt es im Bericht „European Serious Organised Crime Threat Assessment“.
Der Bericht enthielt außerdem Informationen über bestehende und potenzielle Angriffe unter Einsatz von KI sowie Empfehlungen zur Minderung dieser Risiken.
Der Bericht hob die Rolle der KI bei der Sicherung von Betrugsmaschen hervor
Der Reiz von KI liegt in der höheren Effizienz, die sie durch Automatisierung und Autonomie bietet. Der Bericht kommt genau zum richtigen Zeitpunkt; die Öffentlichkeit ist zunehmend besorgt über den potenziellen Missbrauch von KI, was die Behörden zwingt, die Gefahren transparent darzustellen, ohne dabei die potenziellen Vorteile der KI-Technologie zu vernachlässigen.
Edvardas Šileris, Leiter des Europäischen Zentrums für Cyberkriminalität bei Europol, sagte: „Dieser Bericht wird uns nicht nur helfen, mögliche böswillige Nutzungen und Missbräuche von KI vorherzusehen, sondern diese Bedrohungen auch proaktiv zu verhindern und abzuschwächen. So können wir das Potenzial von KI ausschöpfen und von den positiven Auswirkungen von KI-Systemen profitieren.“
Der Bericht kommt zu dem Schluss, dass Cyberkriminelle, falls sie dies nicht bereits tun, KI letztendlich sowohl als Angriffsvektor als auch als Angriffsfläche nutzen werden.
Derzeit sind Deepfakes die bekannteste Anwendung von KI als Angriffsvektor. Laut dem Bericht werden jedoch zukünftig neue Screening-Technologien benötigt, um das Risiko von Desinformationskampagnen und Erpressung sowie von Bedrohungen, die auf KI-Datensätze abzielen, zu minimieren.
KI könnte beispielsweise eingesetzt werden, um überzeugende Social-Engineering-Angriffe in großem Umfang zu erstellen; um Malware zum Auslesen von Dokumenten zu entwickeln, um Angriffe effizienter zu gestalten; um Bilderkennung und Stimmbiometrie zu umgehen; um Ransomware-Angriffe, intelligentes Targeting und Umgehung zu ermöglichen; und um Datenverschmutzung durch das Aufspüren von Schwachstellen in Erkennungsregelndent.
„Da KI-Anwendungen immer größere Auswirkungen in der realen Welt haben, wird deutlich, dass dies eine grundlegende Technologie für unsere Zukunft sein wird“, sagte Irakli Beridze, Leiter des Zentrums für KI und Robotik am UNICRI.
Beridze fuhr fort und wies darauf hin, dass „genauso real wie die Vorteile der KI für die Gesellschaft sind, ebenso real ist die Gefahr des missbräuchlichen Gebrauchs.“
„Es ist uns eine Ehre, gemeinsam mit Europol und Trend Micro die Schattenseiten der KI zu beleuchten und weitere Diskussionen zu diesem wichtigen Thema anzuregen“, sagte .
Der Bericht enthält außerdem eine Warnung, wonach KI-Systeme in der Entwicklung seien, die die Effektivität von Malware steigern und Anti-Malware- sowie Gesichtserkennungssysteme stören würden.
„Cyberkriminelle haben sich schon immer die neuesten Technologien frühzeitig zu eigen gemacht, und KI bildet da keine Ausnahme. Wie dieser Bericht zeigt, wird sie bereits zum Erraten von Passwörtern, Knacken von CAPTCHAs und Klonen von Stimmen eingesetzt, und es sind noch viele weitere bösartige Innovationen in der Entwicklung“, sagte Martin Roesler, Leiter der Abteilung für zukunftsorientierte Bedrohungsforschung bei Trend Micro.
„Wir sind stolz darauf, mit Europol und UNICRI zusammenzuarbeiten, um das Bewusstsein für diese Bedrohungen zu schärfen und so zu einer sichereren digitalen Zukunft für uns alle beizutragen.“
Die drei Organisationen sprachen zum Abschluss des Berichts einige Empfehlungen aus. Eine davon war, das Potenzial der KI-Technologie als Instrument zur Verbrechensbekämpfung zu nutzen, um die Cybersicherheitsbranche und die Polizeiarbeit zukunftssicher zu machen.
Ein weiteres Ziel war die Fortsetzung der Forschung zur Förderung der Entwicklung defensiver Technologien und sicherer KI-Designframeworks. Sie forderten außerdem eine Deeskalation der politisch aufgeladenen Rhetorik über den Einsatz von KI für Cybersicherheitszwecke und ermutigten öffentlich-private Partnerschaften zur Nutzung und Einrichtung multidisziplinärer Expertengruppen.
Eine neue Ära im organisierten Verbrechen
Wie der Bericht hervorhebt, hat sich die organisierte Kriminalität tatsächlich weiterentwickelt und nutzt nun auch künstliche Intelligenz, um deren effiziente Fähigkeiten zur Skalierung und Entwicklung ausgeklügelter Betrügereien auszunutzen.
Laut einem Beitrag auf X von einem Medienunternehmen namens Insight Crime haben die Behörden in Argentinien kürzlich davor gewarnt, dass Kriminelle „zunehmend KI einsetzen, um alte Betrugsmaschen wiederzubeleben und neue Opfer in die Falle zu locken“.
Abgesehen von Deepfakes, die täuschend echt wirkende Audio-, Video- oder Bilddateien sind, die mithilfe von maschinellem Lernen generiert und für Betrugsmaschen wie Identitätsdiebstahl eingesetzt werden, findet KI auch im Bereich der Finanzkriminalität Anwendung. Sie hilft bei der Automatisierung von Phishing-Kampagnen, der Erstellung überzeugender gefälschterdentund der Optimierung von Schadsoftware, um Schwachstellen in Systemen auszunutzen. Die Automatisierung, ein Vorteil, der KI zu einem wertvollen Werkzeug macht, ermöglicht es Gruppen zudem, mit weniger Aufwand mehr Opfer zu erreichen.
Abgesehen von Betrug wird KI auch zur Erleichterung anderer illegaler Operationen eingesetzt, beispielsweise im Drogenhandel. Dabei kann sie helfen, Daten über Lieferketten, Transportwege oder Vorgehensweisen der Strafverfolgungsbehörden zu analysieren, um Risiken zu minimieren und Gewinne zu maximieren.
Hinzu kommt der Einsatz von KI-gestützten Chatbots und Kryptowährungen zur Beschleunigung der Geldwäsche, wodurch schnellere, anonymisierte Transaktionen ermöglicht werden, die schwer tracsind.
Zugänglichkeitswerkzeuge wie große Sprachmodelle (z. B. ChatGPT) und generative KI haben die technische Hürde ebenfalls gesenkt und geben auch weniger erfahrenen Kriminellen die Möglichkeit, zu betrügen und damit ungeschoren davonzukommen.
Der Europol-Bericht soll die Welt über die jüngsten Entwicklungen im Zusammenhang mit dem Einsatz von KI gegen Kriminalität auf dem Laufenden halten. Er ist zugleich ein Aufruf zum Handeln und enthält Empfehlungen, mit gleichen Mitteln gegen die Missstände vorzugehen; schließlich können wir Menschen mit der KI nicht mithalten, aber wir können KI entwickeln, um den Missbrauch dieser Technologie zu bekämpfen.
