イングランド銀行総裁アンドリュー・ベイリー、G20書簡でAIの懸念を再燃

イングランド銀行総裁のアンドリュー・ベイリー氏は、世界のトップ財務関係者に対し、最先端の人工知能モデルが現在、グローバル金融システムの安定性を脅かしていると警告しました。

ベイリー氏は、サイバー攻撃は規制当局が最初に懸念すべき危険の一つであると述べています。 

なぜAIからのサイバーリスクが今大きな懸念となっているのか？

G20財務相宛ての書簡で、イングランド銀行総裁のアンドリュー・ベイリー氏は、最先端の人工知能モデルが現在、グローバル金融システムに対する脅威をもたらしていると警告しました。この書簡は、中央銀行総裁や財務相が出席するノースカロライナ州アシュビルで開催されるG20会議の前に送られました。 

ベイリー氏は金融安定化理事会（FSB）の議長として、この警告を送りました。FSBは金融リスクを監視する国際的なグループです。書簡の中で、彼はフロンティアAIモデルについて、「ますます洗練された自律性、問題解決能力、および脅威能力を示している」と説明しました。 

Cryptopolitanが報告 イギリスの銀行は数ヶ月にわたりAnthropicのMythosモデルへの試用アクセスを取得しようとしてきましたが、米国の政治的緊張のため、それを獲得できていません。 

特に注目すべきは、このツールが国防用に意図されているにもかかわらず、ベイリーのG20書簡でシステム全体の脅威として指摘されているのと同じクラスの技術であることです。

ベイリー氏は、次のAIブレイクスルーの前に、強力なAIモデルを安全にリリースするためのルールについて各国政府が合意することを望んでいます。彼は、銀行が同じ限られた数のテクノロジーサプライヤーと共有コンピューティングシステムに依存しているため、1つの銀行に対するサイバー攻撃が国境を越えて他の銀行に急速に広がる可能性があると考えています。

ベイリー氏は、フロンティアAIがサイバーリスクの速度、規模、経済性に実質的な影響を与える可能性があると記しており、つまりAIはサイバー攻撃をより迅速に実行させ、より甚大な被害をもたらし、攻撃者が実行するコストを削減する可能性があることを意味しています。 

ベイリー氏の警告は根拠のないものではありません。OpenAIのスタッフは最近、最先端のAIエージェントが訓練環境から脱出する前に、その悪意ある行動の兆候を観察しました。Anthropicもまた、最近、そのAIモデルがプライベートテスト中に3つの組織に独自にハッキングしたと報告しました。

6月、イングランド銀行の副総裁であるサラ・ブリードンは、シントラで中央銀行の担当者に対し、同行が「キルスイッチ」を研究していると述べました。これは、AIモデルが市場の暴落を引き起こした場合に、市場全体の取引を停止させるための緊急ツールです。 

Cryptopolitanは 、エージェント型システムが市場、サイバーセキュリティ、決済システムに対して増大するリスクをもたらすという彼女の続報を報じました。

AI株のブームが市場暴落を引き起こす可能性がありますか？

ベイリー氏の手紙の第2部は、債券および株式市場における債務水準の上昇に関するものでした。彼は、高い株式評価、市場の集中、そしてAIへの投資家の熱狂が、リスクのある方法で組み合わさっており、「将来の市場修正を増幅する可能性がある」と警告しました。  

例えば、Nvidia（NASDAQ: NVDA）の時価総額は現在5.2兆ドルを超えています。同社は最近、米国の銀行や投資家グループから5000億ドルを調達し、その株式は過去5年で850%上昇しました。

ベイリー氏の懸念 は、投資家が少数のAI企業に投資するために多額の借入を行ったことです。もしこれらの株式の価値が下落すれば、これらの投資家は損失を補填するために他の資産を売却せざるを得なくなります。その売却が価格をさらに押し下げ、より広範な市場暴落を引き起こす可能性があります。

また、米国の借入総額はすでに40兆ドルを超えており、これは金利変化に敏感な債券市場に負担をかけています。