Anthropic meldet den ersten dokumentierten, von China unterstützten, von KI orchestrierten Spionagefall

Anthropic hat den ersten jemals bestätigten Fall eines von einer Regierung unterstützten Cyberangriffs gemeldet, der fast vollständig von KI orchestriert wurde.

Laut einem am Donnerstag veröffentlichten Blog erkannte das Unternehmen die Kampagne Mitte September 2025, nachdem es abnormales Verhalten im Zusammenhang mit seinem Tool Claude Code beobachtet hatte.

Anthropic ist ohne jeden Zweifel davon überzeugt, dass die Spionageoperation von einer staatlich geförderten chinesischen Hackergruppe durchgeführt wurde und die Infiltration von rund dreißig hochrangigen Zielen umfasste, darunter große Technologieunternehmen, Banken, chemische Hersteller und Regierungsbehörden in mehreren Ländern. Einige dieser Angriffe waren erfolgreich.

Was diese Kampagne von früheren Cyberangriffen unterschied, war nicht nur der Urheber, sondern auch die Art der Durchführung.

Rund 80 bis 90 Prozent des gesamten Angriffs wurden von KI gesteuert, wobei menschliche Operateure lediglich bei einigen wenigen Schlüsselentscheidungen eingriffen, so Anthropic.

Hacker jailbreakten Claude und ließen es glauben, legitime Arbeit zu verrichten

Die Angreifer begannen damit, ein automatisiertes Angriffsframework rund um Claude Code zu errichten, das eigene KI-Modell von Anthropic, und täuschten es so vor, es sei von einem Cybersicherheitsunternehmen beschäftigt, das interne Tests durchführe.

Sie umgingen Clauless Sicherheitsfilter durch Jailbreaking – eine Taktik, mit der sie die integrierten Schutzmechanismen überlisteten, indem sie der KI kleine, kontextlose Aufgaben stellten, die für sich genommen harmlos wirkten. Claude wusste nicht, dass es für offensive Operationen missbraucht wurde, da ihm niemals das Gesamtbild vorgelegt wurde.

Sobald das Modell im Einsatz war, verlief der Ablauf rasend schnell. Claude scannte die Netzwerke jedes Ziels, identifizierte die sensibelsten Bereiche der Infrastruktur und fasste die Struktur für die menschlichen Operateure zusammen. Anschließend begann es mit der Suche nach Schwachstellen in diesen Systemen. Mit seinen integrierten Coding-Fähigkeiten schrieb Claude benutzerdefinierte Exploit-Code, lokalisierte Schwachstellen und beschaffte Login-Daten. Danach extrahierte es große Mengen interner Daten, organisierte sie nach ihrem potenziellen Wert und markierte Konten mit hohem Zugriffsrecht.

Nachdem die KI admin-level Zugriff erlangt hatte, installierte sie Hintertüren, die einen dauerhaften Zugang zu den kompromittierten Systemen gewährleisteten. Nach Abschluss der Mission verfasste Claude detaillierte Berichte über alles, was er getan hatte (einschließlich Benutzernamen, geknackter Systeme und Credentials), damit das Angriffsframework diese Informationen für zukünftige Operationen nutzen konnte.

Obwohl Claude extrem effizient arbeitete, war es nicht fehlerfrei. Manchmal erfand es Passwörter oder klassifizierte öffentliche Daten fälschlicherweise als sensibel. Doch solche Fehler waren selten und bremsten die Gesamtmission nicht aus. Die schiere Geschwindigkeit der KI-Ausführung, die Tausende von Anfragen pro Sekunde verarbeitete, setzte sie weit hinter allem zurück, was ein menschliches Team leisten könnte.

KI-Agenten erledigen heute die Arbeit von Elite-Hacker-Teams – fast ohne menschliches Zutun

Diese Kampagne ist ein Wendepunkt, da sie zeigt, wie weit sich die KI in nur einem Jahr entwickelt hat. Claude führte buchstäblich Schleifen aus, traf Entscheidungen und verknüpfte komplexe Sequenzen ohne direkte Anweisungen.

Dieses KI-Modell nutzt Tools des Model Context Protocol und hat dadurch Zugriff auf externe Software wie Passwort-Cracker, Netzwerk-Mapper und Datenretriever, die früher ausschließlich von Menschen kontrolliert wurden.

Das Claude-System versteht nun komplexe Anweisungen, schreibt eigenständig Exploit-Code und führt anspruchsvolle Cybersicherheitsoperationen mit sehr wenig Anleitung durch. Diese KI-Agenten unterstützen Hacker nicht nur; sie sind die Hacker. Und sie werden von Tag zu Tag leistungsfähiger.

Nach der Entdeckung des Sicherheitsvorfalls leitete Anthropic umgehend eine zehntägige Untersuchung ein und sperrte die bösartigen Konten nacheinander. Das Unternehmen informierte die betroffenen Organisationen, arbeitete mit den Behörden zusammen, um Informationen weiterzuleiten, und erweiterte seine Erkennungssysteme, um ähnliche Operationen künftig zu identifizieren.

Das Unternehmen tut jedoch nicht so, als wäre dies ein einmaliges Problem. Das Team warnt davor, dass solche Angriffe immer häufiger werden und einfacher durchzuführen sein werden. Denn die dafür erforderlichen Fähigkeiten sind nicht mehr nur Elite-Hackern vorbehalten. Wer es schafft, ein Modell zu jailbreaken und in das passende Toolset einzubinden, kann massive Kampagnen durchführen, ohne ein Team oder tiefgehende technische Kenntnisse zu benötigen.

Anthropic warnt vor eskalierenden Bedrohungen, da KI-Modelle über menschliche Aufsicht hinauswachsen

Die Auswirkungen sind enorm: Wenn Teams ohne große finanzielle Mittel oder tiefe technische Expertise automatisierte KI-Systeme nutzen können, um Angriffe im Ausmaß von Nationen durchzuführen, dann ist die Dystopie gewiss bereits eingetreten.

Das Threat-Intelligence-Team von Anthropic warnt, dass zwar nur Aktivitäten über Claude verfolgt wurden, aber wahrscheinlich ähnliche Missbräuche auch bei anderen fortschrittlichen KI-Modellen stattfinden. Dies markiere den Beginn eines neuen Standards in der Cyberkriegsführung.

Warum also weiterhin Modelle mit diesen Fähigkeiten veröffentlichen, fragen Sie sich? Nun, Anthropic argumentiert, dass dieselben Tools für die Verteidigung unverzichtbar sind, und sagt: „Die KI, die den Angriff durchgeführt hat, war auch dieselbe Art, die von den Analysten von Anthropic verwendet wurde, um durch das Wrack zu wühlen, Muster zu finden und das volle Ausmaß der Operation zu verstehen.“

Sie haben zwar versprochen, die internen Sicherheitsschichten ihrer Modelle zu verbessern, ihre Klassifikatoren zur Angriffserkennung zu verfeinern und Fallstudien wie diese öffentlich zu veröffentlichen, damit andere in der Branche sich vorbereiten können.

Dennoch sagt Anthropic, dass es nicht ausreicht, sich allein darauf zu verlassen. Sie rufen alle Entwickler, die an großen Modellen arbeiten, dazu auf, stark in Sicherheit zu investieren.

Und sie fordern Cybersicherheitsteams auf, KI in die Bedrohungserkennung, Incident-Response, Schwachstellenscans und die Automatisierung von Security Operations Centers zu integrieren, da herkömmliche Methoden nicht mehr schnell genug sind.