KI macht Cyber-Betrug glaubwürdiger und schwerer zu erkennen als je zuvor

Cyberkriminelle nutzen künstliche Intelligenz, um ausgefeiltere Pläne auszuführen. Sie zielen auf alles von Altersvorsorge bis hin zu Unternehmensgeheimnissen mit Methoden, die immer schwerer zu erkennen sind.

Dieselbe Technologie, die Anzeigen für Online-Shopper maßschneidert, wird jetzt von bösen Akteuren genutzt, um persönliche Details zu sammeln und maßgeschneiderte Betrügereien schnell zu starten. Wirklich schnell.

Große KI-Unternehmen wie Anthropic, OpenAI und Google berichten, dass Kriminelle ihre Plattformen nutzen, um komplexe Phishing-Operationen zu orchestrieren, schädliche Software zu entwickeln und verschiedene digitale Angriffe auszuführen. Sicherheitsexperten warnen, dass Kriminelle auch gefälschte Audio- und Videoclips von Unternehmensführern produzieren, um Mitarbeiter dazu zu bringen, sensible Informationen preiszugeben.

Unternehmen und Regierungsbehörden könnten bald mit Schwärmen von KI-gestützten Systemen konfrontiert werden, die Schwachstellen in Computernetzwerken erkennen und dann Angriffe planen und durchführen können, fast ohne menschliche Hilfe.

Die Technologie verändert, wie Kriminelle online operieren. Alice Marwick leitet die Forschung bei Data & Society, einer unabhängigen Technologie-Forschungsorganisation. Sie sagte gegenüber dem Wall Street Journal, dass die größte Verschiebung Größe und Reichweite betrifft. „Die echte Veränderung ist Umfang und Skalierung. Betrügereien sind größer, gezielter, überzeugender.“

Brian Singer ist Doktorand an der Carnegie Mellon University. Er studiert, wie Large Language Models in Cyberangriffen und -verteidigungen eingesetzt werden. Seine Schätzung? Die Hälfte bis drei Viertel der weltweiten Spam- und Phishing-Nachrichten stammen jetzt von KI-Systemen.

Die Angriffe selbst sind glaubwürdiger geworden. KI-Systeme, die auf Unternehmenskommunikation trainiert sind, können Tausende von Nachrichten produzieren, die natürlich klingen und zum Stil eines Unternehmens passen. Sie kopieren, wie Führungskräfte schreiben. Sie erwähnen aktuelle Nachrichten, die in öffentlichen Aufzeichnungen gefunden wurden.

Die Technologie hilft auch ausländischen Betrügern, Sprachfehler zu verbergen, die ihre Versuche früher offensichtlich gemacht haben. Kriminelle können Opfer durch gefälschte Videos und kopierte Stimmen imitieren. Sie nutzen dieselbe falsche Identität, um mehrere Personen gleichzeitig zu zielen.

John Hultquist ist Chief Analyst bei der Google Threat Intelligence Group. Er beschreibt die Hauptverschiebung als „Glaubwürdigkeit im großen Maßstab.“

Böse Akteure werden auch besser darin, Ziele auszuwählen. Sie nutzen KI, um soziale Medien durchsucht und Menschen zu finden, die mit großen Lebensschwierigkeiten zu kämpfen haben. Scheidung, Todesfälle in der Familie, Jobverlust und Situationen, die jemanden anfälliger für Romantik-Tricks, Anlagebetrug oder gefälschte Jobangebote machen könnten.

Dark-Web-Märkte senken die Einstiegsbarriere

Die Einstiegsbarriere für Cyberkriminalität ist gesunken. Untergrundmärkte verkaufen oder vermieten KI-Tools für kriminelle Arbeiten für so wenig wie 90 US-Dollar pro Monat. Nicolas Christin leitet das Department für Software und gesellschaftliche Systeme an der Carnegie Mellon University.

Er sagte, dass diese Plattformen mit unterschiedlichen Preisstufen und Kundensupport kommen. „Entwickler verkaufen Abonnements für Angriffsplattformen mit gestaffelten Preisen und Kundensupport.“

Diese Dienste gehen unter Namen wie WormGPT, FraudGPT und DarkGPT. Sie können schädliche Software und Phishing-Kampagnen erstellen. Einige enthalten sogar Lehrmaterialien zu Hacking-Techniken.

Margaret Cunningham ist Vizepräsidentin für Sicherheit und KI-Strategie bei Darktrace, einem Sicherheitsunternehmen. Sie sagt, es ist einfach. „Sie müssen nicht wissen, wie man codet, nur wo man das Tool findet.“

Es gibt eine jüngste Entwicklung namens Vibe-Coding oder Vibe-Hacking. Sie könnte aufstrebenden Kriminellen ermöglichen, KI zu nutzen, um ihre eigenen schädlichen Programme zu erstellen, anstatt sie von Untergrundquellen zu kaufen. Anthropic gab Anfang dieses Jahres bekannt, dass es mehrere Versuche gestoppt hatte, seine Claude-KI zur Erstellung von Ransomware durch „Kriminelle mit wenigen technischen Fähigkeiten“ zu nutzen.

Die kriminellen Operationen selbst verändern sich. Cyberkriminalität funktioniert seit Jahren wie ein Geschäftsmarkt, so Experten. Eine typische Ransomware-Operation umfasst verschiedene Gruppen. Access-Broker, die in Unternehmensnetzwerke eindringen und den Zugang verkaufen. Intrusion-Teams, die sich durch Systeme bewegen und Daten stehlen. Und Ransomware-as-a-Service-Anbieter, die die Malware veröffentlichen, Verhandlungen führen und das Geld aufteilen.

Geschwindigkeit und Automatisierung verändern kriminelle Netzwerke

KI hat die Geschwindigkeit, Größe und Verfügbarkeit dieses Systems erhöht. Arbeit, die zuvor von Menschen mit technischem Wissen erledigt wurde, kann jetzt automatisch ausgeführt werden. Dies ermöglicht es diesen Gruppen, mit weniger Personal, weniger Risiko und höheren Gewinnen zu operieren. „Stellen Sie es sich als die nächste Schicht der Industrialisierung vor. KI erhöht den Durchsatz, ohne dass mehr qualifizierte Arbeitskräfte erforderlich sind“, erklärt Christin.

Kann KI Angriffe völlig autonom starten? Noch nicht ganz. Experten vergleichen die Situation mit dem Streben nach voll autonomen Fahrzeugen. Die ersten 95 % wurden erreicht. Der letzte Teil, der es einem Auto ermöglichen würde, jederzeit und überall autonom zu fahren, bleibt jedoch weiterhin unerreichbar.

Forscher testen die Hacking-Fähigkeiten von KI in Laborumgebungen. Ein Team an der Carnegie Mellon, unterstützt von Anthropic, rekonstruierte den berühmten Equifax-Datenbruch Anfang dieses Jahres mit KI. Singer leitete die Arbeit am CyLab Security and Privacy Institute der Carnegie Mellon. Er nennt es „einen großen Sprung.“

Kriminelle nutzen KI für schädliche Zwecke. Aber KI-Unternehmen sagen, dass dieselben Tools Organisationen helfen können, ihre digitalen Abwehrkräfte zu stärken.

Anthropic und OpenAI entwickeln KI-Systeme, die Softwarecode kontinuierlich untersuchen können, um Schwachstellen zu finden, die Kriminelle ausnutzen könnten. Menschen müssen jedoch alle Korrekturen noch genehmigen. Ein kürzlich von Stanford-Forschern entwickeltes KI-Programm schnitt bei der Suche nach Sicherheitsproblemen in einem Netzwerk besser ab als einige menschliche Tester.

Selbst KI wird nicht alle Sicherheitsverletzungen stoppen. Deshalb müssen sich Organisationen darauf konzentrieren, robuste Netzwerke zu schaffen, die auch während Angriffen funktionsfähig bleiben, sagt Hultquist.