Bundesbehörden warten auf Anthropic Mythos, während das Weiße Haus den Konflikt lockert

Anthropic rückt einem bundesweiten Rollout näher, nachdem die US-Regierung begonnen hat, den Zugang zu einer Version ihres Mythos-Modells für große Behörden vorzubereiten.

Bloomberg berichtete am Donnerstag, dass der Plan nun in Gang ist, obwohl Beamte innerhalb und außerhalb Washingtons befürchten, dass das Tool Cybersicherheitsrisiken bergen könnte, wenn es nicht streng kontrolliert wird.

Cryptopolitan hatte zuvor berichtet, dass Mythos auf ausgewählte Gruppen beschränkt ist und für defensive Cyber-Arbeiten gedacht ist, nicht für den breiten kommerziellen Einsatz. Gregory Barbaccia, Chief Information Officer der Bundesregierung im Weißen Haus Büro für Management und Haushalt, sagte Kabinettsabteilungsbeamten in einer E-Mail am Dienstag, dass das OMB Schutzmaßnahmen einrichtet, damit Behörden mit der Nutzung von Mythos beginnen können. 

Berichten zufolge lautete der Betreff der Nachricht „Mythos Model Access“ und es hieß darin:

„Wir arbeiten eng mit Model-Anbietern, anderen Industriepartnern und der Geheimdienstgemeinschaft zusammen, um sicherzustellen, dass die entsprechenden Schutzmaßnahmen und Sicherheitsvorkehrungen getroffen sind, bevor möglicherweise eine modifizierte Version des Modells an Behörden freigegeben wird.“

Weißes Haus öffnet die Tür, während Anthropic Mythos auf die Nutzung durch Behörden zusteuert

Diese Nachricht traf ein, während Finanzminister, Zentralbanker und Regulierungsbehörden in Washington für die Frühjahrsmeetings des IWF und der Weltbank waren, wo leitende Finanzbeamte warnten, dass fortschrittliche KI von US-Technologieunternehmen Schwachstellen in den Cybersicherheitsabwehrmaßnahmen von Kreditgebern aufdecken und das gesamte Bankensystem unter Druck setzen könnten.

Andrew Bailey, Gouverneur der Bank of England und Vorsitzender des Financial Stability Board, sagte: „Es ist eine sehr ernste Herausforderung für uns alle. Es erinnert uns daran, wie schnell sich die KI-Welt bewegt.“

Andrew sagte dann, Regulierungsbehörden weltweit müssten schnell die Cybersicherheitsrisiken einschätzen, die Anthropics Claude Mythos Preview für das Finanzsystem darstellen könnte.

Dan Katz, stellvertretender Leiter des IWF, sagte: „Die Entwicklung der Digitaltechnologie birgt immense Risiken aus Cybersicherheitsperspektive. Dies wird in den nächsten Monaten absolut wesentlich auf der internationalen Agenda stehen.“

Christine Lagarde, Präsidentin der Europäischen Zentralbank, wies ebenfalls auf Anthropic und Mythos als Fall hin, in dem ein nützliches Werkzeug in falschen Händen gefährlich werden kann.

„Die Entwicklung, die wir bei Anthropic und Mythos gesehen haben, ist ein gutes Beispiel für ein verantwortungsbewusstes Unternehmen, das plötzlich denkt: ‚Ah, das könnte wirklich gut sein‘, aber wenn es in die falschen Hände fällt, könnte es wirklich schlecht sein.“

Globale Beamte drängen auf Regeln, während Anthropic Opus 4.7 einschränkt

Einige Beamte forderten eine koordinierte internationale Reaktion, nachdem Anthropic Anfang dieses Monats bekannt gab, dass Mythos „tausende von Hochrisiko-Schwachstellen gefunden hat, darunter einige in jedem wichtigen Betriebssystem und Webbrowser.“

Anthropic warnte auch davor, dass Fähigkeiten wie diese sich schnell verbreiten und nicht in sicheren Händen bleiben könnten. Das Unternehmen erklärte, es sei „nicht mehr lange her, bis solche Fähigkeiten proliferieren, möglicherweise auch jenseits der Akteure, die sich zur sicheren Bereitstellung verpflichten.“ Es fügte hinzu: „Die Folgen für Volkswirtschaften, öffentliche Sicherheit und nationale Sicherheit könnten schwerwiegend sein.“

Christine sagte später den Reportern, dass Beamte einen Rahmen wünschen, in dem sie arbeiten können, aber es sei noch kein echtes Governance-System bereit. Sie sagte: „Jeder ist bestrebt, einen Rahmen zu haben, innerhalb dessen man operieren kann. Ich glaube nicht, dass es einen Governance-Rahmen gibt, der genau für diese Dinge gedacht ist. Wir müssen daran arbeiten.“

Pip White, Anthropics Leiter für Großbritannien, Irland und Nordeuropa, sagte, das Interesse von Führungskräften habe sich nach den Nachrichten rund um das Modell schnell gesteigert. In einem Interview sagte Pip: „Wir setzen unsere eigenen Schutzmaßnahmen und Einschränkungen für dieses Produkt ein, weil wir wissen, wie leistungsstark es sein kann.“

Am Donnerstag veröffentlichte Anthropic auch Opus 4.7, ein neues Modell, das für bessere Leistungen bei Softwareentwicklungsaufgaben entwickelt wurde. Das Unternehmen sagte, Opus 4.7 könne einige Codierungsarbeiten bewältigen, für die früher eine engere Aufsicht erforderlich war, Anweisungen besser befolgen als ältere Modelle und Bilder mit höherer Auflösung untersuchen, um Details in dichten Diagrammen und komplexen Bildern zu erkennen.

Trotzdem sagte Anthropic, Opus 4.7 sei weniger leistungsfähig als Mythos, einschließlich in Cyber-Anwendungsfällen. Während des Trainings habe das Unternehmen getestet, wie man die Cyber-Fähigkeiten des Modells „differenziell reduzieren“ kann.