Bank of England und FCA eilen voran, um Banken über Cyber-Risiken von Anthropic zu informieren

Britische Aufsichtsbehörden eilen voran, um die Gefahr einzuschätzen, die von Anthopics neuestem KI-Modell ausgeht, nachdem Beamte entschieden haben, dass seine Fähigkeit, versteckte Softwarefehler zu finden, ein direktes Risiko für Banken, Versicherer, Börsen und das gesamte Finanzsystem darstellen könnte.

Laut den Financial Times an den Gesprächen sind die Bank of England, die Financial Conduct Authority, das HM Treasury und das National Cyber Security Centre beteiligt, die Schwachstellen in den IT-Systemen der britischen Finanzbranche überprüfen.

Britische Banken, Versicherer und Börsen werden innerhalb der nächsten zwei Wochen über Risiken im Zusammenhang mit Claude Mythos Preview gewarnt, der neuesten Veröffentlichung von Anthropic, die zuvor von Cryptopolitan berichtet wurde. Die britische Reaktion folgt einer Aufforderung des US-Finanzministers Scott Bessent, der Führungskräfte großer Wall-Street-Banken einberufen hat, um dasselbe Problem zu besprechen.

Letzte Woche, als Anthropic Mythos für ausgewählte Kunden freigegeben hat, sagte der 380 Milliarden US-Dollar teure Start-up aus San Francisco, das System habe bereits „Tausende von Hochrisiko-Schwachstellen gefunden, darunter einige in jedem großen Betriebssystem und Webbrowser“, einschließlich einiger, die jahrzehntelang unentdeckt geblieben waren.

Aufsichtsbehörden bereiten Bankwarnungen vor, während Anthropics Cyber-Modell alte Systemfehler wieder ins Blickfeld rückt

Das Thema steht auf der Tagesordnung der nächsten Sitzung der Cross Market Operational Resilience Group (CMORG), bei der britische Aufsichtsbehörden und Finanzunternehmen Bedrohungen für den Sektor diskutieren. CMORG wird gemeinsam von Duncan Mackinnon, dem geschäftsführenden Direktor für Aufsichtsrisiken der Bank of England, und David Postings, dem Leiter von UK Finance, geleitet.

Die Gruppe includes hochrangige Vertreter von acht der größten britischen Banken, vier Finanzinfrastruktur-Anbietern, zwei Versicherern sowie dem NCSC, der FCA und dem HM Treasury. Das Telegraph berichtete zuerst über die Tagesordnung. Die Bank of England lehnte eine Kommentar ab.

Anthropic sagte: „Es würde nicht lange dauern, bis solche Fähigkeiten sich verbreiten, möglicherweise über Akteure hinaus, die sich verpflichtet haben, sie sicher einzusetzen.“ Es warnte auch davor, dass „die Folgen für Volkswirtschaften, öffentliche Sicherheit und nationale Sicherheit schwerwiegend sein könnten.“

Beamte untersuchen, ob Tools wie diese Schwachstellen in Zahlungssystemen, Handelsplätzen, Versicherungsnetzen und anderen Kernberechten des Marktes aufdecken könnten. David Raw, Managing Director für Resilienz bei UK Finance, sagte: „Wir sind uns der Presseberichte über die Anthropic-KI-Entwicklung und die hervorgehobenen Risiken bewusst.“

Er fügte hinzu: „UK Finance engagiert sich mit unseren Mitgliedern und durch unsere öffentlich-privaten Partnerschaften bei allen erheblichen operativen Risiken, die die Resilienz des britischen Finanzsektors beeinträchtigen könnten.“

Die Bank of England kann auch die separate Cross Market Business Continuity Group innerhalb von ein bis zwei Stunden bei einer dringenden Bedrohung einberufen, hat dies hier jedoch nicht getan.

OpenAI pausiert Stargate UK, während Großbritannien mit Stromkosten und Unsicherheit bei KI-Regulierungen kämpft

Der breitere KI-Hintergrund ist zur gleichen Zeit rau. OpenAI, ein Rivale von Anthropic, pausiert sein multibillionenschweres britisches Rechenzentrumprojekt Stargate UK. Der Plan umfasste einen großen Standort im Nordosten Englands und Zugang zu leistungsstarken Chips durch Partnerschaften mit Nvidia und Nscale.

Es war Teil eines umfassenden 31 Milliarden Pfund schweren britischen Tech-Investitionspakets. Am Donnerstag sagte ein OpenAI-Sprecher, das Unternehmen werde nur dann voranschreiten, wenn die „richtigen Bedingungen“ eine „langfristige Infrastrukturinvestition ermöglichen könnten.“

Der Sprecher sagte: „Wir sehen enormes Potenzial für die KI-Zukunft des Vereinigten Königreichs. London ist Sitz unseres größten internationalen Forschungszentrums, und wir unterstützen das Ziel der Regierung, ein KI-Führer zu sein.“ Sie fügten hinzu:-

„KI-Computing ist grundlegend für dieses Ziel. Wir untersuchen Stargate UK weiterhin und werden voranschreiten, wenn die richtigen Bedingungen wie Regulierung und Energiekosten eine langfristige Infrastrukturinvestition ermöglichen.“

Als OpenAI das Projekt im September ankündigte, sagte es, es werde die „souveränen Rechenkapazitäten“ des Vereinigten Königreichs stärken und die einheimische KI-Entwicklung fördern. Es sagte auch, das Projekt werde dazu beitragen, die Wirtschaft der Zukunft anzutreiben, die Wettbewerbsfähigkeit zu steigern und den nationalen Aktionsplan für KI-Chancen zu unterstützen.

Aber die Energiepreise in Großbritannien waren bereits weit höher als die in den USA, bevor der Iran-Krieg die Kosten in die Höhe trieb, und es bleibt unklar, ob sich das Gesetz ändern wird, um KI-Unternehmen zu erlauben, Modelle mit urheberrechtlich geschützten Werken zu trainieren, durch ein „Opt-out“-System für Schöpfer.