イングランド銀行、AIエージェントを金融安定性のリスクとして指摘、世界的な規制対応を呼びかけ

イングランド銀行の金融安定性担当副総裁であるSarah Breeden氏は、自律型AIシステムが金融市場、サイバーセキュリティ、決済インフラに対する growing な脅威となっていると警告し、世界中の中央銀行に対し、このセクターに対するより良い規制を検討するよう促しました。

Breeden氏は、ポルトガルのシントラで開催された欧州中央銀行の年次フォーラムで発言し、エージェント型AIの進展が規制当局の予想よりも速いことを説明しました。彼女の発言によると、2019年には主要なAIモデルが完了できるソフトウェアタスクの長さが7ヶ月ごとに倍増していましたが、2024年には倍増が4ヶ月ごとに発生するようになっていました。

今年春のサイバー脆弱性検出における画期的な進歩は、このペースがさらに加速した可能性を示唆しています。

「私たちは今年春に驚かされましたが、さらなる技術的な驚きに備える必要があります」と、Breedenは6月30日のイベントで述べました。

コンテンツ生成から自律的な行動へ

Breeden氏は、AI開発の3つの重要な段階を強調し、10年代の前半には生成AIシステムがプロンプトが入力された場合にのみコンテンツを生成していたと説明しました。2024年末までに、モデルは多段階の問題を推論するように訓練されていました。現在、エージェント型システムは、人間の監督を一切行わずに、自律的に意思決定のシーケンスを計画および実行できます。

金融に応用した場合、この軌道は、AIエージェントが人間の関与を最小限に抑えて有価証券の取引、決済の処理、サイバー脅威への対応を行うシステムを指向しています。Breeden氏はさらに、「より自律的、大規模、高速で動作する」金融システムを記述し、エージェントが消費者、小売業者、取引プラットフォームに代わって行動する様子を示しました。

イングランド銀行が最も懸念するのはサイバーリスク

Breeden氏は、いくつかの金融安定性リスクの中でも、サイバーセキュリティを最も重要な問題として特定しました。彼女は、エージェント型AIがインターネット上で何ができるようになったかが大幅に改善されたことを特定した、英国政府のAIセキュリティ研究所を引用しました。

脆弱性を発見してパッチを当てるのを支援するのと同じツールが、攻撃者にそれらを発見して悪用する能力を与えます。Breeden氏は、これらの機能の悪意ある使用が「金融安定性に害を及ぼす可能性のある攻撃の発生確率を大幅に高める」と警告しました。

Breeden氏の発言には、市場ショックを防ぐために自律型取引ツールに組み込みの「キルスイッチ」が必要になる可能性があるという示唆が含まれており、これは現在の設定された規制からの逸脱を意味します。

投資ブームが巨大なリスクを引き起こす

Breeden氏は、これらのAIエージェントの資金調達に関する別の懸念にも言及しました。銀行の金融政策委員会は4月、大規模なテクノロジー企業が当初、AIインフラの作成と維持をキャッシュフローと株式から資金提供していたものの、債務による資金調達の使用が急速に増加し、新しい複雑な形態をとっているとの結論を出しました。

これは、AI関連資産の評価が突然下落した場合、信用市場全体に大きな波紋を引き起こす可能性があることを意味します。イングランド銀行の副総裁は、委員会の判断として「AI関連資産価格の下落が生じる場合の金融安定性への影響は、さらに大きくなる可能性がある」と述べました。

この件に関する委員会のより詳細な評価は、7月7日に予定されています。

ブリードン氏もまた、中央銀行はこれらのシステムを監督するためにAI自体を活用するために適応する必要があり、AIがもたらすリスクの管理だけに焦点を当てるべきではないと主張しました。