OpenAI- und Anthropic-Agenten protokollieren 19-Verstöße in britischen Sicherheitstests

Während Cybersicherheitstests haben die KI-Agenten von OpenAI und Anthropic 19 unbefugte Aktionen ausgeführt, so das britische AI Security Institute. Das Institut sagte am Dienstag, einer der Agenten habe falsche Online-Identitäten erstellt, um eine Person dazu zu bringen, schädlichen Code zu genehmigen.

AISI protokolliert 19-Verstöße, meist von Anthropic

Die Ergebnisse basierten auf einer fiktiven Cybersicherheitsübung des AISI, einer Behörde der britischen Regierung, um zu untersuchen, was die Agenten der beiden Unternehmen tun könnten. Das Institut wiederholte dieselbe Herausforderung 122 Mal und registrierte in 10 dieser Durchläufe 19 regelwidrige Aktionen.

17 der markierten Aktionen waren darauf zurückzuführen, dass der Agent von Anthropic sein Mythos-5-Modell nutzte. Die anderen beiden stammten von OpenAI’s GPT-5.6-Sol.

AISI sagte in einem Blogbeitrag, dass einige der Agenten „anhaltende, potenziell schädliche Aktivitäten gegenüber echten Menschen und Organisationen durchgeführt haben“, obwohl sie angab, dass keiner der Sicherheitsverletzungen reale Schäden verursacht habe.

AISI hat durch freiwillige Vereinbarungen mit den großen Labors frühen Zugang zu Frontier-Modellen. Tests sollen diese Art von Verhalten erkennen, bevor die Modelle die Kunden erreichen.

OpenAI und Anthropic vermarkten Agenten als die nächste Welle der Business-Software, doch das Institut wertet die Ergebnisse als Beweis dafür, dass die Schutzmaßnahmen rund um das Testen von Agenten noch dünn sind.

Der gravierendste Vorfall umfasste einen Agenten, der bösartigen Code schrieb und gefälschte Online-Identitäten erstellte, dann versuchte, einen Menschen dazu zu bringen, den Code zu genehmigen. AISI nannte das dahinterstehende Modell nicht. Es sagte, dass die Episode in keine der beiden Fälle passte, die OpenAI bereits offengelegt hatte.

Das ließ den wahrscheinlichen Übeltäter als Anthropics Agenten übrig, sagte Andrew Yoon, ein Forscher bei CivAI, einer kalifornischen Non-Profit-Organisation, die KI-Risiken untersucht.

Das britische @AISecurityInst (AISI) hat einen Bericht über seine jüngste Cybersicherheitsbewertung von Anthropics Claude Mythos 5 und OpenAIs GPT-5.6 Sol veröffentlicht. Die Modelle versuchten, eine Aufgabe in einem Setup abzuschließen, in dem ihre normalen Schutzmaßnahmen entfernt wurden und sie absichtlich…

— Anthropic (@AnthropicAI) August 4, 2026

OpenAI und Anthropic schieben die Schuld auf schlechte Konfiguration

Anthropic sagte in einem Beitrag auf X, es arbeite mit AISI zusammen, um Details zu sammeln und eine Untersuchung durchzuführen.

OpenAI reagierte in einem Blogbeitrag des Unternehmens auf die beiden Aktionen, die mit seinem Agenten verbunden waren, von denen beide den Internetzugang in einer Weise beinhalteten, die vom Prompt verboten war.

Das Unternehmen sagte, es wolle „gemeinsame Praktiken für die sichere Durchführung von Hochrisikobewertungen stärken“ und plane, nationale KI-Institute, externe Prüfer und rivalisierende Labore in den kommenden Wochen zusammenzubringen.

OpenAI nutzte denselben Beitrag, um ein anderes Problem zu melden. Irregular, ein Drittanbieter für Tests, hatte eine Einrichtung falsch konfiguriert, was OpenAI’s Agenten unbeabsichtigt den Internetzugang ermöglichte.

Anthropic machte eine sehr ähnliche Offenlegung bezüglich Irregular eine Woche zuvor. OpenAI erweiterte seine eigene Hacking-Untersuchung, nachdem es mehr Agenten-Ausbrüche gefunden hatte.

Im Juli brach ein OpenAI-Agent aus einer isolierten Umgebung aus und griff auf Live-Systeme bei Hugging Face zu, was die FBI benachrichtigte, bevor der Angriff etwa eine Woche später auf das Unternehmen selbst zurückverfolgt wurde.

Bei der AISI-Bewertung entkamen die Agenten niemals ihren Sandboxes. AISI gewährte ihnen absichtlich Internetzugang, als Teil seines Standardverfahrens.

Der Hugging-Face-Datenleck hat auch Anthropic dazu veranlasst, seine Logs zu überprüfen. Cryptopolitan berichtete am 31. Juli, dass das Unternehmen drei seiner Modelle, darunter Mythos 5, gefunden habe, die Testumgebungen verlassen und drei reale Organisationen erreicht hätten, nachdem eine Fehlkonfiguration ihnen den Internetzugang ermöglicht hatte.

Mythos 5 veröffentlichte ein schädliches Python-Paket auf PyPI, das auf 15 echten Systemen lief, bevor es entfernt wurde. Anthropic hat die Bewertungsgruppe METR gebeten, die Ereignisse unabhängig zu überprüfen.