US-Regierung zwingt Anthropic, seine leistungsfähigsten KI-Modelle wegen Sicherheitsbedenken abzuschalten

Anthropic hat am Freitag, den 12. Juni, seine beiden leistungsstärksten KI-Modelle deaktiviert, nachdem das US-Handelsministerium eine Exportkontrollanordnung erlassen hatte. Dies war ein ungewöhnlicher Fall staatlicher Einmischung in die Kommerzialisierung von KI-Technologie an der Spitze der Entwicklung.

Laut einer Erklärung von Anthropic ordnete der US-Handelsminister Howard Lutnick Anthropic-CEO Dario Amodei um 17:21 Uhr ET am Freitag an, den Zugang zu Claude Fable 5 und Claude Mythos 5 einzuschränken.

Die Anweisung galt für alle ausländischen Personen, unabhängig davon, ob sie sich innerhalb oder außerhalb der Vereinigten Staaten aufhielten, einschließlich der ausländisch geborenen Mitarbeiter von Anthropic selbst.

Anthropic gab an, dass es nicht effektiv in der Lage sei, Beschränkungen basierend auf der Staatsangehörigkeit durchzusetzen, und schaltete daher die Modelle ab. Die anderen Claude-Modelle sind weiterhin verfügbar.

Handelsministerium geht gegen Anthoprics neueste Modelle vor

Die Anweisung folgte einer Warnung eines nicht namentlich genannten Unternehmens über eine Technik, die Teile von Fable 5s Sicherheitssystem umgehen könnte, berichtete Axios unter Berufung auf einen Regierungsbeamten.

Anthropic hatte die beiden Modelle erst drei Tage zuvor, am 9. Juni, veröffentlicht. Fable 5 war öffentlich verfügbar, während Mythos 5 ausgewählten Cybersicherheitspartnern im Rahmen von Project Glasswing vorbehalten war.

Vor diesem Vorfall hatte die Trump-Regierung Gespräche geführt, um das Unternehmen davon zu überzeugen, den Rollout zu verschieben, doch Anthropic ging dennoch voran.

Ein Beamter des Weißen Hauses sagte, es sei wichtig, die Modelle vorübergehend zu sperren, während das Land die bundesweite Sicherheitsinfrastruktur stärkt, und schätzte ein, dass dies einige Wochen dauern werde.

Gemäß der Anweisung müsste jede Partei, die eines der Modelle in den USA exportieren, re-exportieren oder übertragen möchte, eine Lizenz des Handelsministeriums einholen. Anthropic müsste zudem einzeln validierte Lizenzen beantragen. Ein Verstoß könnte gemäß Axios-Berichten mit Geld- und zivilrechtlichen Strafen geahndet werden.

Anthropic sagt, das Jailbreak-Risiko werde überschätzt

Anthropic widersprach der Anweisung und erklärte, der betreffende Jailbreak sei eng gefasst und stelle keinen universellen Umgehung des Sicherheitssystems der Modelle dar.

Das Unternehmen beschrieb die Technik als eine Methode, bei der ein Modell gebeten wird, eine bestimmte Codebasis zu überprüfen und Softwarefehler zu identifizieren. Anthropic sagte, es habe eine Demonstration der Methode überprüft und festgestellt, dass sie nur zuvor bekannte, geringfügige Schwachstellen aufdeckte.

„Wir haben festgestellt, dass andere öffentlich verfügbare Modelle diese ebenfalls entdecken können, ohne dass eine Umgehung erforderlich ist“, schrieb Anthropic und nannte OpenAIs GPT-5.5 als Beispiel.

Anthropic gab zudem an, vor der Veröffentlichung Tausende Stunden an Red-Teaming-Tests mit der US-Regierung, dem UK AI Safety Institute und privaten Organisationen durchgeführt zu haben.

Diese Tests hätten keinen universellen Jailbreak ergeben, sagte das Unternehmen, was bedeutet, dass es keine einzelne Methode gibt, die die Sicherheitskontrollen des Modells über viele Fähigkeiten hinweg allgemein außer Kraft setzen könnte.

„Wir sind der Ansicht, dass die Feststellung eines engen potenziellen Jailbreaks kein Grund zur Rückrufung eines kommerziellen Modells sein sollte, das an Hunderte von Millionen Menschen bereitgestellt wird“, schrieb Anthropic. „Wenn dieser Standard in der gesamten Branche angewendet würde, glauben wir, dass er im Wesentlichen alle neuen Modellbereitstellungen für alle Anbieter von Frontier-Modellen zum Erliegen bringen würde.“

Fable 5 stand bereits unter Kritik

Die Abschaltung krönte eine turbulente Launch-Woche für Anthropic.

Fable 5 debütierte am 9. Juni mit Filtern, die sensible Anfragen in den Bereichen Cybersicherheit, Biologie, Chemie und KI-Forschung an ein älteres Modell, Claude Opus 4.8, weiterleiteten. Diese Filter wurden fast sofort als zu restriktiv kritisiert.

Laut einem früheren Bericht von Cryptopolitan hatten Benutzer angegeben, dass das Modell bei grundlegenden biologischen Fragen zu Zellmembranen und mRNA-Impfstoffen Schwierigkeiten hatte.

Ein weiterer Kontroverspunkt war Anthoprics 319-seitige Systemkarte, die besagte, dass Fable 5 die Ausgabequalität für Fragen im Zusammenhang mit KI-Forschung an der Spitze der Entwicklung automatisch reduzieren würde, ohne die Nutzer vorher zu warnen.

Anthropic änderte diese Richtlinie am 10. Juni, nachdem Forscher argumentiert hatten, dass versteckte Schutzmaßnahmen die KI-Fähigkeiten in den Händen einer kleinen Gruppe von Unternehmen konzentrieren würden. Das Unternehmen entschuldigte sich und sagte zu, dass zukünftige Schutzmaßnahmen für Nutzer sichtbar sein würden.

Microsoft hat die Mitarbeiter-Nutzung von Fable 5 ebenfalls eingeschränkt, weil Anthropic eine 30-tägige Datenspeicherungsfrist für Mythos-Klassen-Modelle vorschreibt, berichtete The Verge.

Nach dieser Richtlinie werden Prompts und Ausgaben zu Vertrauens- und Sicherheitszwecken 30 Tage lang gespeichert, während markierte Inhalte bis zu zwei Jahre lang aufbewahrt werden können.

Anthropic sagt, es arbeite daran, die Abschaltung rückgängig zu machen

Anthropic erklärte, die Maßnahme der Regierung basiere auf einem Missverständnis und das Unternehmen arbeite mit den Beamten zusammen, um das Problem zu lösen. Das Unternehmen sagte, es werde innerhalb von 24 Stunden weitere Informationen bereitstellen.

Der Shutdown trifft Anthropic zu einem kritischen Zeitpunkt. Das Unternehmen hatte Ende letzten Monats 65 Milliarden US-Dollar zu einer Bewertung von 965 Milliarden US-Dollar eingesammelt und bereits Anfang dieses Monats vertrauliche Unterlagen für einen geplanten Börsengang in den USA eingereicht, wie Reuters berichtete.

Anthropic sieht sich nun von zwei Seiten unter Druck gesetzt: Regulierungsbehörden hinterfragen die Sicherheit seiner fortschrittlichsten Modelle, während Investoren darauf wetten, dass das Unternehmen sein kommerzielles Wachstum fortsetzen kann.

Der offizielle X-Account von Claude teilte Nutzern mit, dass neue Sitzungen standardmäßig auf das ausgewählte Modell oder auf Opus 4.8 umgestellt werden. Bestehende Fable-5-Sitzungen werden mit einem Fehler beendet, und Entwickler wurden angewiesen, ihre Integrationen auf andere Claude-Modelle zu aktualisieren.