英国の規制当局は、Anthropic社の最新AIモデルがもたらす危険性を評価するため、急いでいる。当局は、このモデルが隠れたソフトウェアの欠陥を発見する能力が、銀行、保険会社、取引所、そしてより広範な金融システムにとって直接的なリスクになり得ると判断したためだ。.
フィナンシャル・タイムズ紙によると、この協議にはイングランド銀行、金融行動監視機構、英国財務省、国家サイバーセキュリティセンターが参加しており、英国の金融業界全体のITシステムの脆弱性を検証しているという。.
英国の銀行、保険会社、取引所は、今後2週間以内に、Anthropic社の最新リリースであるClaude Mythos Previewに関連するリスクについて警告を受けることになる。この件については、以前 Cryptopolitanが報じていた。英国側の対応は、スコット・ベッセント米財務長官がウォール街の大手銀行の幹部を招集し、同じ問題について協議したことを受けてのものだ。.
先週、Anthropic社がMythosを一部の顧客向けにリリースした際、3800億ドル規模のサンフランシスコのスタートアップ企業である同社は、このシステムがすでに「主要なオペレーティングシステムやウェブブラウザすべてに存在するものを含む、数千件の深刻な脆弱性」を発見したと発表した。中には数十年間気づかれずにいたものもあったという。.
アントロピック社のサイバーモデルが古いシステムの欠陥を浮き彫りにしたことを受け、規制当局は銀行に対する警告を準備している。
この問題は、英国の規制当局と金融機関が金融セクターへの脅威について議論するクロスマーケット・オペレーショナル・レジリエンス・グループ（CMORG）の次回会合で議題となる予定だ。CMORGは、イングランド銀行の監督リスク担当執行役員であるダンカン・マッキノン氏と、UK Financeの責任者であるデイビッド・ポスティングス氏が共同議長を務めている。.
このグループ含まれている。この議題はテレグラフ紙が最初に報じた。イングランド銀行はコメントを控えた。
アントロピック社は、「こうした能力は、安全な運用に尽力する主体を超えて、間もなく普及するだろう」と述べた。また、「経済、公共の安全、国家安全保障への影響は深刻なものになる可能性がある」と警告した。
当局は、このようなツールが決済システム、取引所、保険ネットワーク、その他の市場の中核部分における脆弱性を露呈させる可能性があるかどうかを調査している。UK Financeのレジリエンス担当マネージングディレクターであるデビッド・ロー氏は、「我々は、Anthropic AIの開発に関する報道と、そこで指摘されているリスクを認識している」と述べた。
同氏はさらに、「UK Financeは、会員企業や官民連携を通じて、英国金融サービス部門の回復力に影響を与える可能性のある重大な業務リスクについて協議しています」と述べた。
イングランド銀行は、緊急の脅威が発生した場合、1～2時間以内に独立したクロスマーケット事業継続グループを招集することもできるが、今回はそうしなかった。.
英国が電力コストとAI規制の不確実性に苦慮する中、OpenAIはStargate UKを一時停止した。
同時に、より広範なAI業界の状況も厳しい。AnthropicのライバルであるOpenAIは、数十億ポンド規模の英国データセンタープロジェクト「Stargate UK」を一時停止した。この計画には、イングランド北東部に大規模な拠点を設けることや、NvidiaおよびNscaleとの提携を通じて高性能チップを入手することが含まれていた。.
これは、総額310億ポンドに上る英国のハイテク投資パッケージの一部だった。木曜日、OpenAIの広報担当者は、同社は「長期的なインフラ投資を可能にする適切な条件」が整った場合にのみ、事業を進めると述べた。
広報担当者は、「英国のAIの未来には大きな可能性を秘めていると考えています。ロンドンは英国最大の国際研究拠点であり、AIリーダーを目指す政府の野心的な取り組みを支持します」と述べた。さらに、「
「AIコンピューティングは、その目標達成の基盤となるものです。私たちは引き続きStargate UKの研究開発を進めており、規制やエネルギーコストといった適切な条件が整い、長期的なインフラ投資が可能になった時点で、プロジェクトを推進していく予定です。」
OpenAIは9月にこのプロジェクトを発表した際、英国の「国家的なコンピューティング能力」を強化し、国内AI開発を促進すると述べた。また、このプロジェクトは将来の経済を活性化させ、競争力を高め、国家AI機会行動計画を支援するとも述べた。.
しかし、イラン戦争でコストが上昇する以前から、英国のエネルギー価格は既に米国をはるかに上回っており、著作権で保護された作品に基づいてAI企業がモデルを訓練することを、クリエイターによる「オプトアウト」制度を通じて認めるよう法律が改正されるかどうかは依然として不透明である。.
