인도중앙은행(RBI)은 은행에 인공지능(AI) 관련 킬 스위치 및 이사회 차원의 감독을 의무화하는 AI 거버넌스 규칙 초안을 마련했습니다

인도중앙은행(RBI)은 은행 및 기타 규제 대상 금융 기관이 인공지능 및 기계 학습 모델과 관련된 위험을 관리하기 위해 마련된 구조를 채택하도록 의무화하는 내용의 가이드라인 초안을 발표했습니다.

이러한 제안된 위험 관리 시스템에는 유해한 출력을 생성하는 모든 AI 시스템을 즉시 차단하는 필수 킬 스위치가 포함될 것입니다.

인도중앙은행의 이익

인도중앙은행(RBI)이 인공지능(AI) 위험을 완화하기 위해 마련한 제안된 규칙 및 지침에 대한 의견 수렴이 7월 24일까지 진행됩니다. 이 지침은 기본적인 스프레드시트 계산기부터 복잡한 생성형 AI 시스템에 이르기까지 은행 업무에 사용되는 모든 모델을 포괄합니다.

은행은 운영 중인 모든 모델의 목록을 유지하고, 개별 및 기업 차원에서 정기적으로 위험을 평가하며, 위험이 허용 가능한 임계값을 초과할 경우 시정 조치를 취해야 합니다. 시정 조치의 방식은 통제 강화부터 모델의 완전한 폐기에 이르기까지 다양하며, 이러한 조치로 이어진 위험에 대한 상세한 보고서가 필요합니다.

이 프레임워크는 여러 단계로 나뉜 위험 분류 시스템을 포함합니다. 모든 모델은 복잡성과 관계없이 특정 위험 수준을 지정받아야 하며, 사람의 감독이 필요합니다. 고위험 모델은 이사회 차원의 위험 관리 위원회의 승인을 받아야 합니다.

AI 모델에 대한 킬 스위치 및 인간의 감독

은행들은 모든 AI 모델 배포 시 오류나 유해한 결과를 생성하는 모델을 즉시 중단할 수 있도록 재정의, 일시 중지 및 비활성화 메커니즘을 구축해야 합니다.

인도중앙은행(RBI)은 또한 은행 직원들이dent 판단 없이 인공지능(AI) 결과물을 승인할 위험성을 의미하는 "자동화 편향"을 지적했습니다. 고객 대면 AI 시스템의 경우, 가이드라인은 은행이 고객에게 AI 모델과 상호 작용하고 있음을 알리고 언제든 사람과 대화할 수 있는 옵션을 제공하도록 의무화합니다.

로이터 통신에 따르면, 고객이나 외부 사용자와 상호 작용하는 생성형 AI 모델은 초안에 따라 추가적인 사이버 보안 요건을 충족해야 할 것으로 보입니다 .

제3자 AI 제공업체들이 면밀한 조사를 받고 있다

은행은 자체 개발이든 외부 업체에서 구매한 것이든 관계없이, 도입하는 모든 AI 모델에 대해 전적인 책임을 져야 합니다. 인도중앙은행(RBI)은 또한 공급망 집중을 우려 사항 중 하나로 지적하며, 은행들이 소수의 글로벌 AI 공급업체에 지나치게dent 하게 될 위험을 우려했습니다.

모든 제3자 AI 모델에 대해 독립적dent 검증이 필수적입니다. 은행은 또한 AI 및 머신러닝 모델에 대한 임계값을 defi하고, 모델이 특정 결과를 도출한 이유를 명확하게 설명할 수 있어야 합니다.

인도중앙은행(RBI)은 오랫동안 기술 거버넌스 체계를 강화해 왔습니다. 이번 가이드라인 초안은 인도 중앙은행이 금융 부문 전반에 걸친 인공지능(AI) 모델 리스크에 대한 포괄적이고 이사회 차원의 책임 구조를 제안한 첫 번째 사례입니다.