英国の議員らが市場の混乱を避けるためAIストレステストを推進

英国の超党派議員グループは、規制当局に対し、金融セクター向けにAIに焦点を当てたストレステストの導入を求めています。管理されなければ、人工知能の使用増加が消費者や市場に深刻な混乱をもたらす可能性があると警告しています。

火曜日に発表されたレポートで、財務委員会（Treasury Select Committee）は、ロンドン金融街全体でAIが広く採用されているにもかかわらず、MPsが「様子見」の慎重な規制姿勢と批判した、金融行動監視庁（FCA）およびイングランド銀行のAIに対する対応を非難しました。

当局者は、急速に進化する技術には、ストレステストの導入など、監督機関による迅速な対応が必要だと述べています。金融企業がAIに依存する度合いが高まるにつれて、遅れは安定性を損なう可能性があります。機械が取引、融資承認、リスク予測を処理する際、欠陥は警告なしに複数のプラットフォームに波及する可能性があります。複数のシステムが同時に失敗した場合、誰も反応する前に混乱が発生する可能性があります。

議員らは、AIが金融市場を混乱させる可能性があると述べています。

英国の金融セクターでAIが急速に普及するにつれ、監督のギャップに関する警告が出ています。一部の 当局者は 、システムが監督を大幅に先取りした場合の事態に対して、不十分な注意しか払われていないと示唆しています。議会の財務委員会は、イングランド銀行、金融行動監視庁、財務省によるリスク管理の遅れを指摘しています。高度なツールを使用する民間企業が設定するペースは、現在のルール策定努力を上回っています。

待機しすぎると、問題が発生した際に誰も対応できない可能性があります。委員会は、当局者が問題が発生しないことを期待して慎重になっていると指摘しています。システムが失敗した場合、迅速に修正する余地はほとんどないかもしれません。後から介入するのではなく、困難な状況下でのAIの行動を観察することがより理にかなっています。当局者は、すべてが崩壊した後に慌てるよりも、準備をすることが重要だと考えています。

英国の金融セクターの企業は、毎日AIにますます依存しており、多くの場合、システムがプレッシャー下でどのように機能するかについてストレステストを行っていません。英国の金融機関の75%以上が中央機能でAIを使用しており、その経済的意思決定への影響は、むしろ見えないものです。投資に関する決定は、人間の直感ではなく機械的なロジックを使用して行われます。承認は自動化され、アルゴリズムが従来の審査なしに借入資格を判断します。保険の請求は、事務員の評価ではなく、コード化された評価に基づいて処理されます。

基本的な書類作業でさえ、手動ではなくデジタルで処理されます。速度がこれらのプロセスを定義しますが、欠陥が発生した際、速さはさらなる曝露を増加させます。組織間の接続が密接であるため、一つのミスが広く響く可能性があります。

イングランド銀行の金融政策委員会の外部メンバーであるJonathan Hall氏は、議員らに対し、AIに特化したストレステストが監督機関による早期リスク検出に役立つ可能性があると語りました。彼は、深刻な市場混乱をシミュレートするストレステストシナリオが、システムレジリエンスへの広範な影響が生じる前に、AIフレームワークの脆弱性を明らかにする可能性があると説明しました。 

議員らが規制当局に対し、AIリスクのテストと明確なルールの設定を要求

AIが経済的安定性を静かに損なうのを防ぐためのより強力な措置、特にストレステストの導入を求める議員らの主張は、監督機関にとって論理的です。金融監督当局は、景気後退時の銀行に対する評価と同様に、AIに焦点を当てた評価の採用を求める立法府からの圧力に直面しています。

ストレス下では、自動化されたツールは予測不可能な行動をとる可能性があります。監視機関は仮定ではなく証拠を必要とします。このような試行を通じてのみ、当局は市場が変化した際にアルゴリズムがどのように混乱を引き起こしたり、混乱を増幅したりするかを正確に見ることができます。

ストレステストは、人工知能が市場に予期せぬ混乱をもたらした場合の状況を模倣する可能性があります。アルゴリズムが奇妙な行動を示したり、機能しなくなったりしたとき、監視機関は圧力下での銀行の反応を観察できます。 

事前に準備することで、取引プラットフォームだけでなく、機関内のリスク評価や保護策の脆弱性も明らかになります。問題が金融チャネル全体に急速に広がる前に修正することは、混乱が発生した後に反応するよりも賢明です。事前にトラブルを特定することで、監督当局と企業の両方がまだ時間があるうちに軌道修正を行うことができます。

ストレステストに加え、議員らは、金融機関内でのAIの日常的な使用を規律する明確なガイドラインの必要性を強調しています。金融行動監視庁に対し、現実の場面で倫理的なAIアプリケーションの明確な境界を設定するよう求められています。

ガイドラインは、人間ではなく自動化されたシステムが意思決定を行う際に、現在の消費者保護がどのように適用されるかを明確にし、失敗時の責任の空白を防ぐ必要があります。AIが誤った動作を行った場合、責任の所在は明確であるべきであり、企業が責任を機械に転嫁することは不可能でなければなりません。

主要なテクノロジープラットフォームの1つで何か問題が発生した場合、多くの銀行が同時に混乱する可能性があります。現在、少数の企業が、全国規模で銀行システムを稼働させるための大きな責任を負っています。 

Google Cloudなどの名前で知られるサービスが Amazon Web Services またはGoogle Cloudのホスティングサービスに障害が発生すると、影響は瞬く間に波及します。多くの人が少数の基盤に依存しているため、その脆弱性が指摘されています。依存度が高まるほど、システムに不具合が生じた際の影響は大きくなります。