Британские законодатели выступают за стресс-тесты ИИ, чтобы избежать сбоев на рынке

Внепартийная группа британских законодателей призывает регуляторов внедрить стресс-тесты, ориентированные на искусственный интеллект, для финансового сектора, предупреждая, что растущее использование ИИ может подвергнуть потребителей и рынки серьезным сбоям, если за ним не будет установлено надлежащее регулирование.

В отчете, опубликованном во вторник, Комитет казначейства раскритиковал Управление по финансовому регулированию и надзору (FCA) и Банк Англии за то, что депутаты охарактеризовали как осторожную регуляторную позицию «посмотрим и подождём» в отношении искусственного интеллекта, несмотря на его широкое внедрение в финансовом секторе Лондона.

Чиновники заявили, что быстро развивающиеся технологии требуют более быстрых реакций со стороны надзорных органов, таких как внедрение стресс-тестов. По мере того как финансовые компании все больше полагаются на искусственный интеллект, задержки могут стоить стабильности. Когда машины обрабатывают сделки, одобрение кредитов или прогнозирование рисков, недостатки могут распространяться по нескольким платформам без предупреждения. Если несколько систем дадут сбой одновременно, хаос может возникнуть до того, как кто-либо успеет отреагировать.

Законодатели утверждают, что ИИ может дестабилизировать финансовые рынки.

Появляются предупреждения о пробелах в надзоре по мере того, как искусственный интеллект стремительно проникает в финансовый сектор Великобритании. Некоторые чиновники предполагают что недостаточное внимание уделяется возможным последствиям, если системы опередят надзорные механизмы. Селективный комитет по казначейству парламента указывает на задержки со стороны Банка Англии, Службы финансового надзора (FCA) и Казначейства в управлении рисками. Темп, задаваемый частными компаниями, использующими передовые инструменты, опережает текущие усилия по разработке правил.

Слишком долгое ожидание может привести к тому, что проблемы возникнут раньше, чем кто-либо успеет отреагировать. Комитет отмечает, что чиновники сдерживаются, надеясь, что проблем не возникнет. Когда системы дают сбой, может практически не остаться времени на быстрое исправление ситуации. Вместо того чтобы вмешиваться позже, более разумно наблюдать за тем, как искусственный интеллект ведет себя в трудные моменты. Чиновники считают, что подготовка лучше, чем суета, когда все уже рушится.

Компании по всему финансовому сектору Великобритании все чаще ежедневно используют искусственный интеллект, часто не проводя стресс-тестирование работы систем под давлением. Более 75% британских финансовых учреждений используют ИИ в центральных функциях, поэтому его влияние на экономические решения, если оно и заметно, то скрыто. Решения об инвестициях принимаются на основе машинной логики, а не человеческой интуиции. Автоматизация направляет одобрение заявок, а алгоритмы оценивают правомерность выдачи кредитов без традиционного пересмотра. Страховые претензии рассматриваются не на основе оценок клерков, а на основе закодированных алгоритмов.

Даже базовая бумажная работа выполняется в цифровом, а не в ручном режиме. Скорость определяет эти процессы; однако быстрота увеличивает уязвимость при появлении дефектов. Один единственный шаг в сторону может вызвать широкие последствия, поскольку связи между организациями тесные.

Джонатан Холл, внешний член Комитета по финансовой политике Банка Англии, заявил законодателям, что индивидуальные стресс-тесты для искусственного интеллекта могут помочь надзорным органам выявлять возникающие риски раньше. Сценарии стресс-тестирования, имитирующие серьезные рыночные потрясения, как он объяснил, могут выявить уязвимости в структурах ИИ до того, как они окажут более широкое влияние на системную устойчивость. 

Депутаты призывают регуляторов тестировать риски ИИ и устанавливать четкие правила

Настойчивость депутатов в требовании более жестких мер по предотвращению тихого подрыва экономической стабильности искусственным интеллектом, начиная со стресс-тестов, кажется логичной для надзорных органов. Финансовые надзорные органы сталкиваются с растущим давлением со стороны законодателей с требованием внедрить индивидуальные оценки, сфокусированные на ИИ, аналогичные тем, которые используются для банков в периоды спада.

Под давлением автоматизированные инструменты могут действовать непредсказуемо; надзорным органам нужны доказательства, а не предположения. Только благодаря таким испытаниям власти смогут точно увидеть, как алгоритмы могут спровоцировать сбои или усилить хаос при изменении рыночной ситуации.

Стресс-тесты могут имитировать последствия непредвиденного вмешательства искусственного интеллекта в рынки. Когда алгоритмы ведут себя странно или перестают работать, органы надзора могут наблюдать за реакцией банков под давлением. 

Заблаговременная подготовка выявляет уязвимости не только в торговых платформах, но и в оценках рисков и защитных механизмах внутри учреждений. Исправление проблем раньше кажется мудрее, чем реагирование после того, как хаос быстро распространится по финансовым каналам. Выявление проблем заранее позволит как регуляторам, так и компаниям скорректировать курс, пока еще есть время.

Помимо стресс-тестирования, члены парламента подчеркивают необходимость четких руководящих принципов, регулирующих повседневное использование искусственного интеллекта в финансовых учреждениях. Службе финансового надзора (FCA) предлагается установить четкие границы для этичного применения ИИ в реальных условиях.

Руководящие принципы должны разъяснять, как текущие защиты прав потребителей применяются, когда решения принимают автоматизированные системы, а не люди, предотвращая пробелы в ответственности при сбоях. Назначение ответственности должно быть явным, если ИИ действует неправильно, что сделает невозможным для компаний перекладывать вину на машины.

Если что-то пойдет не так с одной основной технологической платформой, многие банки могут пошатнуться вместе. Несколько компаний теперь несут большую ответственность за обеспечение бесперебойной работы банковских систем по всей стране. 

Когда услуги, размещенные на таких платформах, как Amazon Web Services или Google Cloud, сталкиваются с проблемами, эффекты распространяются быстро. Законодатели указывают на то, насколько хрупкой становится ситуация, когда так много зависят от столь немногих. Чем больше растет зависимость, тем сильнее удар по всем, если проскочит сбой.