- インド準備銀行（RBI）は6月24日、すべての銀行および規制対象金融機関に対し、承認されたAIガバナンスフレームワークの実装を義務付ける草案規則を提案しました。これには、あらゆるAIモデルに対する必須のキルスイッチと、自動化された意思決定に対する人的監督が含まれます。
- 7月24日までフィードバックを受け付けているこれらのガイドラインでは、すべてのモデルのリスクベース分類を要求し、銀行が導入する第三者のAIシステムに対して責任を負うことを定めています。
- 暗号資産市場の参加者にとって、これらの規則は、法定通貨ゲートウェイとして機能するコンプライアンスおよび取引監視システムにおける銀行のAI利用に影響を与える可能性があります。
インド準備銀行（RBI）は、銀行やその他の規制対象金融機関が、人工知能および機械学習モデルに関連するリスクを管理するために設定された構造を採用することを義務付けるドラフトガイドラインを公開しました。
これらの提案されたリスク管理システムには、有害な出力を生成するあらゆるAIシステムを即座にシャットダウンする必須のキルスイッチが含まれます。
RBIの関心
RBIが策定したこれらのAIリスクを軽減するための提案された規則およびガイドラインは、7月24日まで公衆からのフィードバックを受け付けています。これらのガイドラインは、基本的なスプレッドシート計算機から複雑な生成AIシステムに至るまで、銀行の運用で使用されるすべてのモデルをカバーしています。
銀行は、運用中のすべてのモデルの目録を保持し、個別および企業レベルで定期的にリスクを評価し、リスクが許容可能な閾値を超えた場合に是正措置を講じなければなりません。是正措置の方法は、より厳格な制御からモデルの完全な廃棄まで多岐にわたり、そのような措置に至ったリスクの詳細な報告が必要です。
このフレームワークには、複数のティアに分かれたリスク分類システムも含まれます。複雑さに関わらず、すべてのモデルには特定のリスクレベルと人間の監督が割り当てられます。高リスクモデルには、取締役会レベルのリスク管理委員会からの承認が必要です。
AIモデルのキルスイッチと人間の監督
銀行は、誤った結果や有害な結果を生成した場合、即座にシャットダウンできるように、すべてのAIモデル展開にオーバーライド、一時停止、および無効化メカニズムを組み込むことが期待されています。
RBIはまた、「自動化バイアス」と呼ばれるリスク、すなわち銀行従業員が独立した判断を行わずにAIの出力を承認してしまうリスクを指摘しました。顧客対応型AIシステムについては、ガイドラインにより、銀行が顧客がAIモデルと対話していることを知らせ、いつでも人間と話せるオプションを提供することが義務付けられます。
生成AIモデルが顧客や外部ユーザーと対話する場合、ドラフト提案によると、追加のサイバーセキュリティ要件が課されることになります。
第三者AIプロバイダーの審査
銀行は、内部で構築されたものであっても、ベンダーから購入したものであっても、採用するあらゆるAIモデルに対して完全に責任を負います。RBIはまた、サプライチェーンの集中を懸念事項の一つとして挙げ、銀行が少数のグローバルAIプロバイダーに過度に依存するリスクを指摘しました。
すべての第三者AIモデルに対して独立した検証が必要です。銀行はまた、AIおよび機械学習モデルの閾値を定義し、モデルが特定の出力を生み出した理由を平易な用語で説明できるようにする必要があります。
RBIは長年にわたり、テクノロジーガバナンスの立場を強化してきました。これらのドラフトガイドラインは、インドの中央銀行が金融セクター全体にわたるAIモデルリスクに対して包括的な取締役会レベルの責任構造を提案した初めての事例です。
これをお読みいただいているあなたは、すでに一歩先を行っています。当社のニュースレターでその先を行ってください。
免責事項。 本情報は取引助言ではありません。Cryptopolitan.com は、本ページに記載された情報に基づいて行われた投資に対して一切の責任を負いません。投資判断を下す前に、独自の調査を行うか、資格を有する専門家にご相談することを強く推奨します。
Opeyemi Olanrewaju
Opeyemi氏は、暗号資産、グローバル金融市場、経済に焦点を当てた高品質なコンテンツの作成と洗練を専門としています。イバダン大学で医学博士（MBBS）号を取得し、同大学の編集出版機関で編集長を務め、以前はCFAでも働きました。Cryptopolitanでは過去6年以上にわたり、ニュースエディターとして独自性の維持に貢献しています。
