Quelle: PexelsAnthropic rückt einer bundesweiten Einführung näher, nachdem die US-Regierung begonnen hat, die Bereitstellung einer Version ihres Mythos-Modells für wichtige Behörden vorzubereiten.
Bloomberg berichtete am Donnerstag, dass der Plan nun in Arbeit sei, obwohl Beamte innerhalb und außerhalb Washingtons befürchten, dass das Tool Cybersicherheitsrisiken bergen könnte, wenn es nicht streng kontrolliert wird.
Cryptopolitan berichtete bereits, dass Mythos auf ausgewählte Gruppen beschränkt und für defensive Cybersicherheitsmaßnahmen, nicht aber für den breiten kommerziellen Einsatz gedacht ist. Gregory Barbaccia, Chief Information Officer des US-Bundesministeriums für Management und Budget (OMB) im Weißen Haus, teilte den Beamten der Ministerien am Dienstag per E-Mail mit, dass das OMB Schutzmaßnahmen einrichte, damit die Behörden Mythos nutzen können.
Angeblich lautete die Betreffzeile der Nachricht „Zugang zum Mythos-Modell“ und der Inhalt war wie folgt:
„Wir arbeiten eng mit den Anbietern des Modells, anderen Industriepartnern und den Nachrichtendiensten zusammen, um sicherzustellen, dass die entsprechenden Schutzmechanismen und Sicherheitsvorkehrungen getroffen sind, bevor wir möglicherweise eine modifizierte Version des Modells an die Behörden weitergeben.“
Das Weiße Haus öffnet die Tür, während der Anthropic Mythos sich der Nutzung durch Behörden zuwendet
Diese Botschaft erreichte die Bevölkerung, als sich Finanzminister, Zentralbanker und Aufsichtsbehörden zu den Frühjahrstagungen des IWF und der Weltbank in Washington aufhielten. Dort warnten hochrangige Finanzbeamte davor, dass fortschrittliche KI von US-amerikanischen Technologieunternehmen Schwachstellen in der Cyberabwehr der Kreditgeber aufdecken und das gesamte Bankensystem unter Druck setzen könnte.
Andrew Bailey, Gouverneur der Bank von England und Vorsitzender des Finanzstabilitätsrats, sagte: „Das ist eine sehr ernste Herausforderung für uns alle. Es erinnert uns daran, wie schnell sich die Welt der KI entwickelt.“
Andrew sagte daraufhin, dass die Aufsichtsbehörden weltweit das Cyberrisiko, das von Anthropics Claude Mythos Preview für das Finanzsystem ausgehen könnte, schnell einschätzen müssten.
Dan Katz, stellvertretender Chef des IWF, sagte: „Die Entwicklung digitaler Technologien birgt immense Risiken aus Sicht der Cybersicherheit. Dies wird in den nächsten Monaten ein absolut zentraler Punkt auf der internationalen Agenda sein.“
Christine Lagarde,dent der Europäischen Zentralbank, verwies ebenfalls auf Anthropic und Mythos als Beispiel dafür, wie ein nützliches Werkzeug in den falschen Händen gefährlich werden kann.
„Die Entwicklung, die wir bei Anthropic und Mythos beobachtet haben, ist ein gutes Beispiel für ein verantwortungsbewusstes Unternehmen, das plötzlich denkt: ‚Ah, das könnte wirklich gut werden‘, aber wenn es in die falschen Hände gerät, könnte es wirklich schlimm enden.“
Globale Beamte drängen auf Regeln, während anthropische Beschränkungen Opus 4.7
Einige Offizielle forderten eine koordinierte internationale Reaktion, nachdem Anthropic Anfang dieses Monats mitgeteilt hatte, dass Mythos „Tausende von schwerwiegenden Sicherheitslücken gefunden hat, darunter einige in jedem wichtigen Betriebssystem und Webbrowser“
Anthropic warnte zudem davor, dass sich solche Fähigkeiten schnell verbreiten und nicht in sicheren Händen bleiben könnten. Das Unternehmen erklärte, es werde „nicht lange dauern, bis sich solche Fähigkeiten verbreiten, möglicherweise auch über Akteure hinaus, die sich zu ihrem sicheren Einsatz verpflichtet haben“. Weiter hieß es: „Die Folgen für Wirtschaft, öffentliche Sicherheit und nationale Sicherheit könnten gravierend sein.“
Christine erklärte später gegenüber Reportern, dass die Verantwortlichen einen Handlungsrahmen wünschten, aber noch kein wirklich ausgereiftes Steuerungssystem existiere. Sie sagte: „Alle wollen einen Rahmen, innerhalb dessen sie agieren können. Ich glaube nicht, dass es ein Steuerungssystem gibt, das diese Aspekte tatsächlich berücksichtigt. Daran müssen wir arbeiten.“
Pip White, Leiterin von Anthropics Niederlassung in Großbritannien, Irland und Nordeuropa, erklärte, das Interesse von Führungskräften habe nach Bekanntwerden der Neuigkeiten über das Modell rasch zugenommen. In einem Interview sagte sie: „Wir haben eigene Sicherheitsvorkehrungen und Beschränkungen für dieses Produkt getroffen, weil wir wissen, wie leistungsstark es sein kann.“
Am Donnerstag veröffentlichte Anthropic außerdem Opus 4.7, ein neues Modell, das speziell für Softwareentwicklungsaufgaben entwickelt wurde. Laut Unternehmen kann Opus 4.7 einige Programmierarbeiten übernehmen, die bisher eine engere Überwachung erforderten, Anweisungen besser umsetzen als ältere Modelle und hochauflösende Bilder analysieren, um Details in dichten Diagrammen und komplexen Grafiken zu erkennen.
Dennoch erklärte Anthropic, dass Opus 4.7 weniger leistungsfähig sei als Mythos, insbesondere im Bereich Cybersicherheit. Das Unternehmen gab an, während Schulungen Methoden getestet zu haben, um die Cyberfähigkeiten des Modells „differenziell zu reduzieren“.
