Банк Англии обозначил агентов ИИ как риск финансовой стабильности и призвал к глобальному регуляторному ответу

Сара Бриден, заместитель управляющего Банка Англии по вопросам финансовой стабильности, предупредила, что автономные системы ИИ представляют растущую угрозу для финансовых рынков, кибербезопасности и платежной инфраструктуры, призывая центральные банки по всему миру заняться разработкой более совершенных правил регулирования для этого сектора.

Выступая на ежегодном форуме Европейского центрального банка в Синтре, Португалия, Бриден объяснила, что агентный ИИ развивается быстрее, чем ожидали регуляторы. Согласно ее словам, в 2019 году время, необходимое ведущим моделям ИИ для выполнения программных задач, сокращалось вдвое каждые семь месяцев. Однако к 2024 году этот период сократился до четырех месяцев.

Прорывы в обнаружении уязвимостей кибербезопасности этой весной свидетельствуют о том, что этот темп мог ускориться.

«Этой весной мы были удивлены, и нам следует быть готовыми к дальнейшим технологическим сюрпризам», – сказал Бриден на мероприятии 30 июня.

От генерации контента к автономным действиям

Брден выделила три важных этапа развития ИИ, объяснив, что в начале десятилетия системы генеративного ИИ создавали контент только по запросу. К концу 2024 года модели были обучены решать многоэтапные задачи путем рассуждений. Теперь агентные системы могут самостоятельно планировать и выполнять последовательности решений без какого-либо участия человека.

При применении в финансах эта траектория указывает на систему, в которой агенты ИИ могут торговать ценными бумагами, обрабатывать платежи и реагировать на киберугрозы при минимальном участии человека. Брден далее описала финансовую систему, которая «работает более автономно, в больших масштабах и с высокой скоростью», где агенты действуют от имени потребителей, торговцев и торговых платформ.

Банк Англии больше всего обеспокоен киберрисками

Среди нескольких рисков финансовой стабильности Брден выделила кибербезопасность как наиболее критическую проблему. Она сослалась на Институт безопасности ИИ правительства Великобритании, который выявил значительное улучшение возможностей агентного ИИ в работе через интернет.

Те же инструменты, которые помогают защитникам находить и устранять уязвимости, дают злоумышленникам возможность обнаруживать и эксплуатировать их. Брден предупредила, что злонамеренное использование этих возможностей «существенно увеличивает вероятность атак, которые могут нанести ущерб финансовой стабильности».

В своих выступлениях Брден также предложила, что автономные торговые инструменты могут потребовать встроенных «аварийных выключателей» для предотвращения рыночных шоков, что стало бы отклонением от текущих установленных правил.

Бум инвестиций создает огромные риски

Брден упомянула еще одну проблему, касающуюся финансирования этих агентов ИИ. Финансовый политический комитет Банка в апреле пришел к выводу, что, хотя крупные технологические компании изначально финансировали создание и поддержку инфраструктуры ИИ за счет денежного потока и акционерного капитала, использование долгового финансирования быстро растет и принимает новые сложные формы.

Это означает, что внезапное падение стоимости активов, связанных с ИИ, теперь может вызвать масштабные колебания на кредитных рынках. Заместитель управляющего Банка Англии заявил, что комитет считает, что «финансово-стабильные последствия любого падения цен на активы, связанные с ИИ, могут значительно возрасти».

Более глубокая оценка комитетом по этому вопросу ожидается 7 июля.

Брден также утверждала, что центральным банкам необходимо адаптироваться и использовать ИИ для надзора за этими системами, а не сосредотачиваться только на управлении рисками, которые вносит ИИ.