インド準備銀行（RBI）は、銀行に対しキルスイッチの設置と取締役会レベルの監督を義務付けるAIガバナンス規則案を策定した。

インド準備銀行（RBI）は、銀行やその他の規制対象金融機関に対し、人工知能や機械学習モデルに関連するリスクを管理するために定められた仕組みを採用することを義務付けるガイドライン案を発表した。.

これらの提案されているリスク管理システムには、有害な出力を生成するAIシステムを即座に停止させる強制的なキルスイッチが含まれる予定です。.

インド準備銀行の利益

インド準備銀行（RBI）が策定した、AIリスクを軽減するための規則案とガイドラインは、7月24日まで一般からの意見を募集している。これらのガイドラインは、基本的な表計算ソフトから複雑な生成型AIシステムまで、銀行業務で使用されるあらゆるモデルを対象としている。.

銀行は、運用するすべてのモデルの在庫を管理し、個人レベルと企業レベルの両方で定期的にリスクを評価し、リスクが許容範囲を超えた場合には是正措置を講じる必要がある。是正措置の方法は、管理の強化からモデルの完全な廃止まで多岐にわたり、そのような措置につながるリスクについては詳細な報告書を作成する必要がある。.

このフレームワークには、複数の階層に分かれたリスク分類システムも含まれています。複雑さに関わらず、すべてのモデルには特定のリスクレベルが割り当てられ、人的監視が必要となります。高リスクモデルについては、取締役会レベルのリスク管理委員会の承認が必要となります。.

AIモデルに対するキルスイッチと人間の監視

銀行は、AIモデルの導入に際し、オーバーライド、一時停止、無効化のメカニズムを組み込むことが求められている。これにより、モデルが誤った結果や有害な結果を生成した場合に、直ちに停止させることができるようになる。.

インド準備銀行（RBI）はまた、「自動化バイアス」と呼ばれる問題にも言及した。これは、銀行員がdent 判断を一切行わずにAIの出力結果を承認してしまうリスクを指す。顧客向けAIシステムに関しては、ガイドラインでは、銀行に対し、顧客がAIモデルとやり取りしていることを顧客に通知し、いつでも人間と話せる選択肢を提供することを義務付ける。.

顧客や外部ユーザーとやり取りする生成型AIモデルは、草案に盛り込まれた 提案、追加のサイバーセキュリティ要件に直面することになる。

第三者AIプロバイダーが精査の対象に

銀行は、自社開発かベンダーからの購入かを問わず、採用するAIモデルについて全責任を負う。インド準備銀行（RBI）はまた、サプライチェーンの集中化を懸念事項の一つとして挙げ、銀行が少数のグローバルAIプロバイダーに過度にdent するリスクを指摘した。.

第三者機関が開発したAIモデルはすべて、独立しdent 検証を受ける必要があります。また、銀行はAIおよび機械学習モデルの閾値 defi、モデルが特定の出力を生成した理由を分かりやすく説明できるようにしなければなりません。.

インド準備銀行（RBI）は以前からテクノロジーガバナンスの強化に取り組んできた。今回のガイドライン草案は、インドの中央銀行が金融セクター全体におけるAIモデルのリスクに特化した、包括的な取締役会レベルの責任体制を初めて提案したものである。.