Die US-Regierung zwingt Anthropic aus Sicherheitsgründen zur Abschaltung seiner leistungsstärksten KI-Modelle

Anthropic deaktivierte am Freitag, den 12. Juni, seine beiden leistungsstärksten KI-Modelle aufgrund einer Exportkontrollanordnung des US-Handelsministeriums. Dies war ein ungewöhnlicher Fall, in dem eine Regierung in die Kommerzialisierung zukunftsweisender KI-Technologie eingriff.

Laut einer Erklärung von Anthropic ordnete US-Handelsminister Howard Lutnick am Freitag um 17:21 Uhr ET dem CEO von Anthropic, Dario Amodei, an, den Zugang zu Claude Fable 5 und Claude Mythos 5 einzuschränken.

Die Richtlinie galt für alle ausländischen Personen, unabhängig davon, ob sie sich innerhalb oder außerhalb der Vereinigten Staaten aufhielten, einschließlich der im Ausland geborenen Mitarbeiter von Anthropic selbst.

Anthropic erklärte, dass nationalitätsbasierte Beschränkungen nicht effektiv durchgesetzt werden könnten und deaktivierte daher die entsprechenden Modelle. Die anderen Claude-Modelle sind weiterhin verfügbar.

Das US-Handelsministerium geht gegen die neuesten Modelle von Anthropologie vor

Die Anweisung erfolgte im Anschluss an eine Warnung eines nicht genannten Unternehmens vor einer Technik, mit der Teile des Sicherheitssystems von Fable 5 umgangen werden könnten, berichtete Axios unter Berufung auf einen Regierungsbeamten.

Anthropic hatte die beiden Modelle erst drei Tage zuvor, am 9. Juni, veröffentlicht. Fable 5 war öffentlich verfügbar, während Mythos 5 im Rahmen des Projekts Glasswing auf ausgewählte Cybersicherheitspartner beschränkt war.

Zuvor hatte die Trump-Regierung Gespräche geführt, um das Unternehmen zu einer Verschiebung des Markteintritts zu bewegen, doch Anthropic setzte die Pläne unbeirrt fort.

Ein Beamter des Weißen Hauses sagte, man halte es für wichtig, die Modelle unter Verschluss zu halten, während das Land die bundesstaatliche Sicherheitsinfrastruktur verstärke, und er glaube, dass dies Wochen dauern werde.

Gemäß der Richtlinie benötigt jede Partei, die eines der beiden Modelle in die USA exportieren, reexportieren oder transferieren möchte, eine Lizenz des Handelsministeriums. Anthropic müsste zudem individuell validierte Lizenzen beantragen. Verstöße könnten Geld- und Zivilstrafen nach sich ziehen, berichtete Axios.

Anthropic meint, das Ausbruchsrisiko werde überbewertet

Anthropic wehrte sich gegen die Anweisung und erklärte, der betreffende Jacbreak sei eng gefasst und stelle keine generelle Umgehung der Sicherheitssysteme der Modelle dar.

Das Unternehmen beschrieb das Verfahren als eine Methode, bei der ein Modell einen bestimmten Quellcode überprüft und Softwarefehlerdent. Anthropic gab an, eine Demonstration des Verfahrens geprüft zu haben und festgestellt zu haben, dass dabei lediglich bereits bekannte, geringfügige Schwachstellen aufgedeckt wurden.

„Wir haben festgestellt, dass auch andere öffentlich verfügbare Modelle in der Lage sind, diese zu entdecken, ohne dass ein Bypass erforderlich ist“, schrieb Anthropic und nannte GPT-5.5 von OpenAI als ein Beispiel.

Anthropic gab außerdem an, vor dem Start Tausende von Stunden Red-Teaming mit der US-Regierung, dem britischen AI Safety Institute und privaten Organisationen durchgeführt zu haben.

Laut Angaben des Unternehmens ergaben die Tests keinen universellen Jailbreak, was bedeutet, dass es keine einzelne Methode gibt, mit der die Sicherheitsvorkehrungen des Modells über viele Funktionen hinweg umfassend umgangen werden können.

„Wir sind nicht der Ansicht, dass die Feststellung eines potenziell geringfügigen Sicherheitsvorfalls Anlass für den Rückruf eines kommerziellen Modells sein sollte, das bei Hunderten von Millionen Nutzern im Einsatz ist“, schrieb Anthropic. „Würde dieser Standard branchenweit angewendet, würde dies unserer Meinung nach praktisch alle neuen Modellimplementierungen aller Anbieter innovativer Modelle zum Erliegen bringen.“

Fable 5 sah sich bereits Kritik ausgesetzt

Die Abschaltung setzte einer turbulenten Startwoche für Anthropic ein Ende.

Fable 5 wurde am 9. Juni mit Filtern veröffentlicht, die sensible Anfragen in den Bereichen Cybersicherheit, Biologie, Chemie und KI-Forschung an ein früheres Modell, Claude Opus 4.8, weiterleiteten. Diese Filter wurden fast sofort als zu restriktiv kritisiert.

Laut einem früheren Bericht von Cryptopolitangaben Nutzer an, dass das Modell Schwierigkeiten mit grundlegenden biologischen Fragestellungen im Zusammenhang mit Zellmembranen und mRNA-Impfstoffen habe.

Eine weitere Kontroverse drehte sich um die 319-seitige Systemkarte von Anthropic, in der stand, dass Fable 5 die Ausgabequalität für Fragen im Zusammenhang mit der Forschung im Bereich der Spitzentechnologie für KImaticreduzieren würde, ohne die Benutzer zu warnen.

Anthropic änderte diese Richtlinie am 10. Juni, nachdem Forscher argumentiert hatten, dass versteckte Sicherheitsvorkehrungen die KI-Fähigkeiten auf wenige Unternehmen konzentrieren würden. Das Unternehmen entschuldigte sich und erklärte, zukünftige Sicherheitsvorkehrungen würden für die Nutzer sichtbar sein.

Laut einem Bericht von The Verge schränkte Microsoft die Nutzung von Fable 5 durch seine Mitarbeiter auch aufgrund der 30-tägigen Datenaufbewahrungspflicht von Anthropic für Modelle der Mythos-Klasse ein.

Gemäß dieser Richtlinie werden Eingabeaufforderungen und Ausgaben aus Gründen der Vertrauenswürdigkeit und Sicherheit 30 Tage lang gespeichert, während markierte Inhalte bis zu zwei Jahre lang aufbewahrt werden können.

Anthropic gibt an, an der Aufhebung der Abschaltung zu arbeiten

Anthropic erklärte, die Maßnahme der Regierung beruhe auf einem Missverständnis und man arbeite mit den Behörden an der Klärung des Problems. Das Unternehmen kündigte an, innerhalb von 24 Stunden weitere Informationen bereitzustellen.

Die Schließung erfolgt zu einem kritischen Zeitpunkt für Anthropic. Das Unternehmen hatte Anfang des MonatsdentDokumente für einen geplanten US-Börsengang eingereicht, nachdem es Ende letzten Monats 65 Milliarden US-Dollar bei einer Bewertung von 965 Milliarden US-Dollar eingesammelt hatte, wie Reuters berichtete.

Anthropic steht nun an zwei Fronten unter Druck: Die Regulierungsbehörden stellen die Sicherheit der fortschrittlichsten Modelle in Frage, während die Investoren auf die Fähigkeit des Unternehmens setzen, den Umsatz weiter zu steigern.

Claudes offizieller Account auf X teilte den Nutzern mit, dass neue Sitzungen nun standardmäßig auf das ausgewählte Modell oder auf Opus 4.8 eingestellt werden. Bestehende Fable 5-Sitzungen werden mit einem Fehler beendet, und Entwickler wurden aufgefordert, ihre Integrationen auf andere Claude-Modelle zu aktualisieren.