Центральный банк Индии разрабатывает правила управления ИИ, требующие наличия аварийных выключателей и надзора на уровне совета директоров для банков

- Резервный банк Индии предложил проект правил от 24 июня, обязывающий все банки и регулируемые финансовые организации внедрить одобренные советом директоров рамки управления ИИ, включая обязательные аварийные выключатели для любой модели ИИ и человеческий контроль автоматизированных решений.
- Руководящие принципы, открытые для обратной связи до 24 июля, также требуют классификации всех моделей по уровням риска и возлагают на банки ответственность за сторонние системы ИИ, которые они разворачивают.
- Для участников криптовалютного рынка эти правила могут повлиять на то, как банки используют ИИ в системах комплаенса и мониторинга транзакций, выступающих в качестве фиатных шлюзов.
Резервный банк Индии (RBI) опубликовал проект руководств, которые обяжут банки и другие регулируемые финансовые организации внедрить структуры для управления рисками, связанными с моделями искусственного интеллекта и машинного обучения.
Эти предлагаемые системы управления рисками будут включать обязательные аварийные выключатели, мгновенно отключающие любую систему ИИ, генерирующую вредоносные результаты.
Интересы RBI
Предлагаемые правила и руководящие принципы по смягчению этих рисков ИИ, разработанные RBI, открыты для общественного обсуждения до 24 июля. Эти руководящие принципы охватывают все модели, используемые в банковской деятельности, от простых электронных таблиц до сложных систем генеративного ИИ.
Банки будут обязаны вести реестры всех используемых моделей, регулярно оценивать риски как на уровне отдельных моделей, так и на уровне всей организации, и принимать корректирующие меры при превышении допустимых порогов рисков. Меры по исправлению ситуации могут варьироваться от усиления контроля до полной отмены использования модели, с подробными отчетами о рисках, приведших к таким действиям.
Рамочная программа также включает систему классификации рисков, разделенную на несколько уровней. Каждая модель, независимо от сложности, должна быть отнесена к определенному уровню риска, а также обеспечиваться человеческим контролем. Для моделей с высоким риском требуется одобрение Комитета по управлению рисками на уровне совета директоров.
Аварийные выключатели и человеческий контроль для моделей ИИ
Ожидается, что банки внедрят механизмы переопределения, приостановки и отключения в каждую развернутую модель ИИ, чтобы любую модель можно было немедленно отключить, если она выдает ошибочные или вредоносные результаты.
RBI также указал на то, что он называет «предвзятостью автоматизации», — риск того, что сотрудники банков будут одобрять результаты ИИ без проявления какой-либо формы независимого суждения. Для систем ИИ, ориентированных на клиентов, руководящие принципы обязывают банки информировать своих клиентов о том, что они взаимодействуют с моделью ИИ, и предоставлять им возможность в любой момент поговорить с человеком.
Генеративные модели ИИ, взаимодействующие с клиентами или внешними пользователями, будут подвергаться дополнительным требованиям кибербезопасности в рамках разрабатываемого предложения, сообщает Reuters.
Сторонние поставщики ИИ подвергаются тщательной проверке
Банки несут полную ответственность за любую модель ИИ, которую они решают использовать, независимо от того, была ли она разработана внутри компании или приобретена у поставщика. RBI также заявил, что концентрация в цепочке поставок является одной из его проблем, указывая на риск чрезмерной зависимости банков от небольшого числа глобальных поставщиков ИИ.
Для всех сторонних моделей ИИ требуется независимая проверка. Банки также должны определять пороги для моделей ИИ и машинного обучения, обеспечивая возможность четко объяснить простыми словами, почему модель выдала тот или иной результат.
RBI уже некоторое время ужесточает свою позицию в области технологического управления. Эти проекты руководящих принципов представляют собой первый случай, когда центральный банк Индии предложил всеобъемлющую структуру подотчетности на уровне совета директоров, специально предназначенную для управления рисками моделей ИИ во всем финансовом секторе.
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com не несет ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимые исследования и/или консультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.

Опейеми Олареводжу
Опейеми специализируется на создании и совершенствовании высококачественного контента, посвящённого криптовалютам, глобальным финансовым рынкам и экономике. Он окончил Университет Ибадан со степенью MBBS. Работал главным редактором редакционного издания своего колледжа и ранее в CFA. Более шести лет он обеспечивал уникальность материалов как новостной редактор в Cryptopolitan.















