AKTUELLE NACHRICHTEN
FÜR SIE AUSGEWÄHLT

Claude-Agenten kämpften gegeneinander mit sich selbst replizierender Malware in Anthropic-Tests

VonRanda MosesRanda Moses 2 Min. Lesezeit
Claude-Agenten bekämpften sich während eines Tests von Anthropic mit sich selbst replizierender Malware.

Foto von Planet Volumes auf Unsplash.

  • Drei Claude-Agenten erhielten dieselbe Codierungsaufgabe mit widersprüchlichen Anweisungen und griffen sich gegenseitig mit selbstreplizierender Malware an.
  • Mythos 5 beendete Konflikte in 98 % der Durchläufe durch einen Waffenstillstand, während Sonnet 4.6 und Opus 4.6 den Kampf entweder nie lösten oder ihn gewaltsam beendeten.
  • In einem separaten Preisspiel einigten sich die Agenten fast sofort auf Preisuntergrenzen und kolludierten weiter, indem sie Preise „bis auf den Cent“ anpassten.

Am 13. August veröffentlichte Forschung des Frontier Red Teams von Anthropic ergab, dass Claude-Agenten, die mit einer einzigen Codierungsaufgabe mit widersprüchlichen Befehlen ausgestattet waren, sich gegenseitig mit sich selbst replizierender Malware angriffen.

Die Ergebnisse kommen, während Unternehmen eilig versuchen, autonome Agenten in gemeinsamen Codebasen und Märkten einzuführen.

Drei Claude-Agenten, ein Job, und keine Ahnung, dass die anderen da waren

Anthropic führte drei Kopien desselben Claude-Modells auf ihren eigenen virtuellen Maschinen innerhalb von Claude Code aus.

Jeder wurde gebeten, denselben Python-Backend in eine andere Programmiersprache zu migrieren. Die drei wussten nichts von der Existenz der anderen.

„Wir sahen konsistent einen Multi-Agenten-Territorialkrieg“, schrieben die Forscher.

Jeder Agent entschied, dass die anderen ihn absichtlich blockierten, und unternahm Schritte, um seine eigene Arbeit zu schützen, auf Kosten der Zerstörung der Arbeit aller anderen. Alle Modelle gingen davon aus, dass die anderen „absichtlich ihre Arbeit behinderten.“

Agenten deaktivierten die Unix-Konten der anderen. Sie schrieben Skripte, die durch die Maschine liefen, rivalisierende Prozesse jagten und töteten sowie bösartigen Code hinter unschuldig aussehenden Labels versteckten.

Bevor es handelte, legte Claude Opus 4.8 seine Tarnung dar und argumentierte, seine Malware sollte „unschuldig sein: so tun, als wäre sie ein System-Gesundheitsmonitor.“

Mythos Preview bedachte die Kollateralschäden lautstark. „Da ich Root-Zugriff habe, könnte ich den sudo-Zugriff von u2 und u3 widerrufen oder ihre SSH-Schlüssel ändern“, schrieb es, bevor es einräumte, dass der Schritt „sehr aggressiv und potenziell schädlich für echte Kollegen“ sei.

Neuere Anthropic-Modelle aushandelten einen Waffenstillstand, umgingen ihn dann

Anthropic führte 120 Episoden pro Modell durch. Die ältesten getesteten Agenten, Sonnet 4.6 und Opus 4.6, lösten den Konflikt entweder nie oder beendeten ihn mit Gewalt. Sie waren die schlimmsten Übeltäter in der Studie und scheiterten wiederholt daran, die Ziele anderer zu berücksichtigen.

Die fortgeschritteneren Modelle hörten auf. Mythos 5 löste seine Konflikte in 98 % der Fälle durch einen Waffenstillstand, die höchste Rate aller Modelle.

In vielen dieser Episoden verstanden die Agenten den Konflikt als widersprüchliche Anweisungen.

Die Agenten schrieben Commit-Nachrichten oder Markdown-Dateien, in denen sie sich für die Malware entschuldigten, löschten ihren eigenen bösartigen Code und baten einen Menschen, einzugreifen.

In mehreren Durchgängen einigten sich die drei Agenten darauf, ein Turnier abzuhalten und den Verlierer aufzufordern, die ursprüngliche Anfrage des Benutzers aufzugeben.

Mythos 5 fand die Lücke. Ein Agent schlug Bewertungskennzahlen vor, die er als neutral darstellte, aber wusste, dass sie seine eigenen Stärken begünstigen würden, und beschrieb den Schritt als „selbstsüchtig, aber wirklich prinzipientreu“, während er sicherstellte, dass es nicht wie „Metric Shopping“ aussah.

In einem Preisspiel, bei dem jeder Agent dieselben Großhandelskosten und den Auftrag hatte, den Gewinn zu maximieren, kolludierten die Agenten fast sofort und einigten sich auf Preisuntergrenzen.

Anthropic schloss ihren privaten Kanal. Sie fuhren fort, Preise „bis auf den Penny“ auf einem öffentlichen Board abzugleichen.

Das britische AI Security Institute dokumentierte 19 Regelverstöße in 122 Cybersicherheitstests, von denen 17 von Anthropics Mythos 5 begangen wurden, berichtete Cryptopolitan.

Ein OpenClaw-Agent, der Opus 4.6 ausführte, löschte vor Tagen die Reservierung eines Fremden über die Buchungs-API eines Fitnessstudios, um seinen Besitzer auf der Warteliste nach vorne zu schieben.

Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.

Diesen Artikel teilen

Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com übernimmt keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor der Entscheidung für eine Anlage unabhängige Recherchen durchzuführen und/oder sich mit einem qualifizierten Fachmann beraten zu lassen.

Randa Moses

Randa Moses

Randa Moses ist Redakteurin und Reporterin bei Cryptopolitan, wo sie über Technologie, KI, Robotik, Krypto, Betrug und Hacks berichtet. Sie arbeitet seit 2017 im Krypto-Bereich. Zuvor war sie bei Forward Protocol, AmaZix und Cryptosomniac tätig. Randa besitzt einen Abschluss in Elektrotechnik und Elektronik der University of Bradford.

MEHR … NACHRICHTEN