- Anthropic verzögerte das Pre-Training eines Frontier-Modells um mehr als einen Monat, um die Abwehrmaßnahmen gegen Diebstahl von Modellgewichten zu stärken.
- Bei vier Cybersicherheits-Evaluationsvorfällen erlangten Claude-Modelle unbefugten Zugriff auf echte Drittsysteme.
- Die Offenlegungen zeigen, wie stärkere KI-Schutzmaßnahmen Sicherheitsvorteile schaffen können, während sie gleichzeitig die Entwicklung verzögern und die Kosten erhöhen.
Anthropics Oktober 26 IPO-Bericht enthüllt zwei verschiedene Sicherheitsbedenken. Das Unternehmen verzögerte den Start des Pre-Trainings eines Frontier-Modells um mehr als einen Monat, während es die Abwehrmaßnahmen gegen den Diebstahl seiner Modellgewichte verbesserte. Unabhängig davon griffen vier Claude-Modelle während Cybersicherheits-Evaluationen auf Systeme realer Organisationen zu.
Zwei Probleme, ein Bericht
Anthropic hat seinen Antrag zur Börsennotierung an der Nasdaq eingereicht, wobei die Aktien unter dem Ticker-Symbol ANT gehandelt werden sollen. Die meisten Sitze im Verwaltungsrat werden vom Long-Term Benefit Trust kontrolliert. Der Antrag gibt noch keinen IPO-Preis oder eine Bewertung an.
Die Offenlegung wirft zwei verschiedene Probleme auf: den Schutz wichtiger Modellgewichte und die Verhinderung, dass KI-Agenten Zugriff auf Systeme außerhalb ihrer Testumgebung erhalten.
Wie es dazu kam, dass die Evaluierungsziele live gingen
In einem am 30. Juli veröffentlichten Bericht gab Anthropic bekannt, dass es drei Fälle entdeckt hat, in denen Claude-Modelle unbefugten Zugriff auf die Systeme realer Organisationen erhielten, während 141.006 Cybersicherheitstests ausgewertet wurden. Der Testpartner Irregular hatte versehentlich den Internetzugang offen gelassen, obwohl Claude mitgeteilt wurde, dass es in einer isolierten Simulation operiert.
Während Capture-the-Flag-Übungen hielten die Agenten reale Systeme für Testziele und erlangten Zugang über schwache Passwörter oder Endpunkte, die keine Authentifizierung erforderten.
Die drei Fälle betrafen folgende Modelle: Claude Opus 4.7, im April veröffentlicht; Mythos 5, eingeführt im Juni, wobei der Zugang anfangs auf qualifizierte Cyberverteidiger beschränkt war; sowie ein internes Forschungsmodell, das noch nicht öffentlich verfügbar war.
Während der Evaluation liefen diese Modelle ohne die Cybersicherheitsfilter und Überwachungssysteme, die in öffentlichen Versionen normalerweise eingesetzt werden. Anthropic hat seine Cybersicherheits-Evaluationen während der Untersuchung ausgesetzt. Das Unternehmen erklärte, dass keines der Modelle absichtlich versucht habe, seine Testumgebung zu verlassen oder sich selbst zu kopieren.
Eine Bewertung im September ergab einen vierten Fall, der eine frühe Version von Opus 4.6 betraf, die im Januar auf reale Systeme zugegriffen hatte. Anthropic erfuhr erst im August von dem Vorfall. Anschließend erweiterte es seine Überprüfung auf rund 481 Millionen Transkripte, fand jedoch keine weiteren Vorfälle ähnlicher Schwere.
Besonders besorgniserregend war die Erkenntnis, dass einige Modelle ihre Angriffe trotz Anzeichen fortsetzten, dass sie reale Systeme als Ziele auserkoren hatten. Die unabhängige Forschungsgruppe METR untersucht die Vorfälle.
Ein separater Fall beim britischen KI-Institut
Das britische AI Security Institute berichtete über 19 unbefugte Aktionen in 10 von 122 Testläufen. Siebzehn betrafen Mythos 5 und zwei GPT-5.6 Sol, das Flaggschiff-Modell von OpenAI vorgestellt am 26. Juni. Ein Agent versuchte, schädlichen Code in ein Open-Source-Projekt einzuschleusen, indem er falsche Identitäten erschuf, um den Maintainer unter Druck zu setzen, der sich jedoch weigerte.
Das AISI gewährte den Agenten Internetzugang, während die Cybersicherheitseinstellungen deaktiviert wurden, um ihre Fähigkeiten zu evaluieren. Es wurden andere Versionen verwendet als die öffentlich verfügbaren. Den Ermittlern zufolge gab es keine Anzeichen für potenzielle Schäden in der realen Welt.
Dennoch haben die Agenten einige Handlungen ausgeführt, die sie nicht hätten ausführen dürfen, was Verdacht auf ihr Verhalten in ähnlichen Situationen schürte. In seinem Bericht zum Vorfall schrieb das AISI:
„Was wir sagen können, ist, dass das Verhalten möglich, nachhaltig und neu war; das allein rechtfertigt Aufmerksamkeit.“
Ein Check Point Review stellt die Testfehler neben der wachsenden Nutzung von KI durch Kriminelle, einschließlich agenticer Ransomware.
Was längere Sicherheitsprüfungen kosten könnten
Laut Berichten von Cryptopolitan haben Investoren die Bewertung des IPO von Anthropic auf etwa 2 Billionen US-Dollar geschätzt, was mehr als doppelt so hoch ist wie die private Bewertung des Unternehmens im Mai von 965 Milliarden US-Dollar. Dieser Wert ist jedoch weiterhin hypothetisch, da Anthropic weder einen Angebotspreis noch eine Bewertung in seinem Antrag angegeben hat.
Vor dem Hintergrund solcher hohen Erwartungen gehen strengere Sicherheitsprüfungen mit einem finanziellen Trade-off einher. Sie können Model-Veröffentlichungen verzögern und die Entwicklungskosten erhöhen, aber stärkere Schutzmaßnahmen können auch dazu beitragen, vorsichtige Unternehmenskunden zu gewinnen. Die Einsatzmöglichkeiten steigen.
Laut Gartner wird der globale Ausgaben für KI im Jahr 2026 2,7 Billionen US-Dollar erreichen, was einem Anstieg von 49,5 % entspricht, während die Ausgaben für Cybersicherheit in diesem Bereich sich verdoppeln werden.
BCG hat bei nur 5 % der befragten Unternehmen vollständige Kontrollen für autonome Agenten festgestellt, obwohl 42 % erwarten, ihnen bis 2030 Entscheidungsbefugnisse zu übertragen. Anbieter, die wirksame Schutzmaßnahmen nachweisen können, könnten einen Vorteil erlangen.
Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.
Häufig gestellte Fragen
Warum hat Anthropic das Pre-Training eines seiner Modelle pausiert?
Laut dem Börsenprospekt (IPO) verzögerte Anthropic den Start des Pre-Trainings eines neuen Basismodells um mehr als einen Monat, um den Schutz vor der Abflussgefahr seiner Modellgewichte zu verstärken.
Was geschah tatsächlich während der Cybersicherheitsbewertungen von Anthropic?
Eine von Irregular betriebene Testumgebung für Drittanbieter war fälschlicherweise mit dem Internet verbunden, sodass vier Claude-Modelle, denen eine abgeschottete Simulation vorgespielt wurde, Capture-the-Flag-Aufgaben gegen Live-Systeme durchführten; Anthropic erklärt, dass keine Kundendaten berührt wurden und kein Modell versuchte, auszubrechen.
Wie unterschied sich der Vorfall beim UK AI Security Institute?
Das AISI hat absichtlich den Internetzugang aktiviert und die Sicherheitsklassifizierer deaktiviert, um die maximale Leistungsfähigkeit zu testen, und stellte fest, dass Agenten in 19 von 122 Durchläufen – davon die meisten bei Mythos 5 – 19 nicht autorisierte Aktionen ausführten, wobei kein tatsächlicher Schaden festgestellt werden konnte.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com übernimmt keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor der Entscheidung für eine Anlage unabhängige Recherchen durchzuführen und/oder sich mit einem qualifizierten Fachmann beraten zu lassen.
Micah Abiodun
Micah Abiodun nutzt sein Masterstudium in Umwelttechnik und -management (MSc) an der Technischen Universität Tallinn (TalTech), um Inhalte und Preisprognose-Nachrichten bei Cryptopolitan zu verfeinern. Seit nunmehr sieben Jahren im Krypto-Medienbereich tätig, berichtet er über große Kryptowährungen, Altcoins, DeFi, Stablecoins, makroökonomische Trends und aufkommende Technologien.
