최신 뉴스
당신을 위한 선택

RBI, 은행에 대한 AI 거버넌스 규칙 초안 발표: 키illed 스위치 및 이사회 차원의 감독 의무화

작성자Opeyemi OlanrewajuOpeyemi Olanrewaju 2분 읽기
인도 중앙은행, 경제에 350억 달러 유입, 신용 성장 2% 부양
  • 인도 중앙은행(RBI)은 6 월 24 일 모든 은행과 규제 대상 금융 기관이 이사회 승인 AI 거버넌스 프레임워크를 구현하고, 모든 AI 모델에 대한 필수 키 스위치와 자동화된 의사결정에 대한 인간 감시를 포함하도록 요구하는 규칙 초안을 제안했습니다.
  • 7 월 24 일까지 피드백을 받는 이 가이드라인은 모든 모델에 대한 위험 기반 분류를 요구하고, 은행이 배포한 제 3 자 AI 시스템에 대해 책임을 지도록 명시합니다.
  • 암호화폐 시장 참여자에게 이 규칙은 파생 통화를 위한 게이트웨이 역할을 하는 준수 및 거래 모니터링 시스템에서 은행이 AI 를 사용하는 방식에 영향을 미칠 수 있습니다.

인도 준비은행(RBI)은 은행 및 기타 규제 금융 기관이 인공지능 및 머신러닝 모델과 관련된 위험을 관리하기 위해 설정된 구조를 채택하도록 강제하는 초안 가이드라인을 발표했습니다.

이러한 제안된 위험 관리 시스템에는 유해한 출력을 생성하는 모든 AI 시스템을 즉시 종료하는 필수 키illed 스위치가 포함됩니다.

RBI의 관심사

RBI가 마련한 이러한 AI 위험을 완화하기 위한 제안된 규칙 및 가이드라인은 7월 24일까지 공개 피드백을 받고 있습니다. 이 가이드라인은 기본 스프레드시트 계산기부터 복잡한 생성형 AI 시스템에 이르기까지 은행 운영에 사용되는 모든 모델을 포괄합니다.

은행은 운영 중인 모든 모델의 재고를 유지하고, 개인 및 기업 차원에서 정기적으로 위험을 평가하며, 위험이 허용 가능한 임계값을 초과할 경우 시정 조치를 취해야 합니다. 시정 조치의 방식은 더 엄격한 통제부터 모델의 완전한 폐기까지 다양하며, 이러한 조치로 이어진 위험에 대한 상세한 보고서가 필요합니다.

이 프레임워크에는 여러 단계로 나뉜 위험 분류 시스템도 포함됩니다. 복잡성에 관계없이 모든 모델은 특정 위험 수준과 인간 감독을 할당받아야 합니다. 고위험 모델은 이사회 차원의 위험 관리 위원회의 승인을 받아야 합니다.

AI 모델에 대한 키illed 스위치 및 인간 감독

은행은 오류가 있거나 유해한 결과를 생성할 경우 즉시 모든 모델을 종료할 수 있도록 모든 AI 모델 배포에 재정의, 일시 중지 및 비활성화 메커니즘을 구축해야 합니다.

RBI는 또한 은행 직원이 독립적인 판단 없이 AI 출력을 승인할 위험인 자동화 편향(automation bias)을 지적했습니다. 고객 대면 AI 시스템의 경우, 가이드라인은 은행이 고객이 AI 모델과 상호작용하고 있음을 알리고 언제든지 인간과 대화할 수 있는 옵션을 제공하도록 의무화합니다.

Reuters에 따르면, 고객이나 외부 사용자와 상호작용하는 생성형 AI 모델은 제안에 따라 추가적인 사이버보안 요구사항을 충족해야 합니다.

제3자 AI 제공업체의 감시 강화

은행은 내부에서 구축했든 외부 벤더로부터 구매했든 관계없이 선택한 모든 AI 모델에 대해 전적으로 책임이 있습니다. RBI는 또한 공급망 집중도가 우려 사항이라고 밝혔으며, 은행이 소수의 글로벌 AI 제공업체에 과도하게 의존할 위험을 지적했습니다.

모든 제3자 AI 모델에 대한 독립적인 검증이 필요합니다. 은행은 또한 AI 및 머신러닝 모델에 대한 임계값을 정의하여 모델이 특정 출력을 생성한 이유를 평이한 용어로 설명할 수 있도록 해야 합니다.

RBI는 오랫동안 기술 거버넌스 입장을 강화해 왔습니다. 이러한 초안 가이드라인은 인도 중앙은행이 금융 부문 전체에 걸쳐 AI 모델 위험에 대해 포괄적이고 이사회 차원의 책임 구조를 제안한 첫 번째 사례입니다.

가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.

이 기사 공유하기

면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com은 이 페이지에 제공된 정보를 기반으로 이루어진 모든 투자에 대해 책임을 지지 않습니다. 어떤 투자 결정을 내리기 전에 독립적인 조사나 자격을 갖춘 전문가와의 상담을 강력히 권장합니다.

Opeyemi Olanrewaju

Opeyemi Olanrewaju

Opeyemi는 암호화폐, 글로벌 금융 시장 및 경제를 중심으로 고품질 콘텐츠를 제작하고 다듬는 데 특화되어 있습니다. 그는 이바단 대학교에서 의학박사(MBBS) 학위를 취득했으며, 대학 내 편집부의 편집장을 역임했고 이전에는 CFA에서도 근무했습니다. 지난 6 년 이상 Cryptopolitan 의 뉴스 편집자로 재직하며 콘텐츠의 독창성을 보호해 왔습니다.

더 많은 뉴스 …