Резервный банк Индии разработал правила управления ИИ, предусматривающие наличие механизмов аварийного отключения и надзора со стороны совета директоров для банков

Резервный банк Индии (RBI) опубликовал проект руководящих принципов, которые обяжут банки и другие регулируемые финансовые организации внедрить структуры, созданные для управления рисками, связанными с искусственным интеллектом и моделями машинного обучения.

Предлагаемые системы управления рисками будут включать обязательные аварийные выключатели, которые мгновенно отключат любую систему искусственного интеллекта, выдающую вредоносные результаты.

Интересы Резервного банка Индии

Предложенные Резервным банком Индии правила и рекомендации по снижению рисков, связанных с искусственным интеллектом, открыты для общественного обсуждения до 24 июля. Эти рекомендации охватывают все модели, используемые в банковских операциях, от простых электронных таблиц до сложных генеративных систем искусственного интеллекта.

Банки должны будут вести учет всех используемых ими моделей, регулярно оценивать риски как на индивидуальном, так и на корпоративном уровне и принимать корректирующие меры, когда риски превышают допустимые пороговые значения. Способы корректирующих мер могут варьироваться от ужесточения контроля до полного вывода модели из эксплуатации, с предоставлением подробных отчетов о рисках, приведших к таким действиям.

Данная система также включает в себя классификацию рисков, разделенную на несколько уровней. Каждой модели, независимо от сложности, должен быть присвоен определенный уровень риска, а также обеспечен контроль со стороны персонала. Модели с высоким уровнем риска потребуют одобрения Комитета по управлению рисками на уровне совета директоров.

Механизмы аварийного отключения и человеческий контроль для моделей ИИ

Ожидается, что банки внедрят механизмы отмены, приостановки и деактивации в каждую развертываемую модель ИИ, чтобы любую модель можно было немедленно отключить, если она выдает ошибочные или вредные результаты.

Резервный банк Индии также указал на то, что он назвал «предвзятостью автоматизации», то есть риском того, что сотрудники банка будут одобрять результаты работы ИИ, не проявляя при этом никакойdent оценки. В отношении систем ИИ, взаимодействующих с клиентами, руководящие принципы обяжут банки информировать своих клиентов о взаимодействии с моделью ИИ и предоставлять им возможность в любой момент поговорить с человеком.

Согласно сообщению Reuters, в соответствии с проектом предложения , модели генеративного искусственного интеллекта, взаимодействующие с клиентами или внешними пользователями, будут подвергаться дополнительным требованиям кибербезопасности

Сторонние поставщики решений в области искусственного интеллекта подвергаются пристальному вниманию

Банки несут полную ответственность за любую модель ИИ, которую они решат использовать, независимо от того, разработана ли она внутри компании или приобретена у поставщика. Резервный банк Индии также заявил, что концентрация в цепочке поставок является одной из его проблем, указав на риск того, что банки станут чрезмерноdent от небольшого числа глобальных поставщиков ИИ.

Для всех моделей ИИ, разработанных сторонними организациями, требуетсяdent проверка. Банки также должны defiпороговые значения для моделей ИИ и машинного обучения, гарантируя, что они смогут простым языком объяснить, почему модель выдала тот или иной результат.

Резервный банк Индии уже некоторое время ужесточает свою позицию в отношении управления технологиями. Эти проекты руководящих принципов представляют собой первый случай, когда центральный банк Индии предложил всеобъемлющую структуру подотчетности на уровне совета директоров, специально разработанную для рисков, связанных с моделями искусственного интеллекта, во всем финансовом секторе.