В эпоху, когда искусственный интеллект (ИИ) преобразует отрасли, его интеграция в финансовую систему вызвала бурные дебаты. В то время как ИИ обещает повышение эффективности предоставления финансовых услуг, разворачивается более мрачная картина, раскрывающая потенциальные угрозы финансовой стабильности. В этом отчёте, основанном на исследовании Йона Даниэльссона и Андреаса Утеманна, рассматриваются тонкости влияния ИИ на финансовый ландшафт. Сочетание уязвимостей ИИ и экономической нестабильности порождает опасения по поводу злонамеренного использования, несогласованности, дезинформации и возникновения монокультуры риска и олигополий.
Выявление угроз финансовой стабильности
Первый источник беспокойства связан со злонамеренным использованием ИИ операторами-людьми в финансовой системе. Поскольку субъекты, максимизирующие прибыль, часто безразличны к социальным последствиям, существует риск манипулирования ИИ в целях личной выгоды. Эти манипуляции могут варьироваться от прямого вмешательства в работу систем ИИ до использования лазеек, позволяющих обойти регулирующие органы. Сложность финансовой системы создает благоприятную почву для подобных действий, представляя угрозу не только конкурентам, но и организациям, нанимающим этих операторов ИИ. Возможность незаконной деятельности, включая мошенническую торговлю и действия террористов или национальных государств, усложняет задачу поддержания финансовой стабильности.
Второй канал раскрывается, когда пользователи ИИ одновременно дезинформированы о его возможностях и сильно зависят от его результатов. Алгоритмы, основанные на данных, распространённые в финансовом секторе, могут столкнуться с трудностями при экстраполяции на области с дефицитом данных и неясными целями. Это создаёт ситуацию, когда системы ИИ, разработанные для предоставления рекомендаций даже с низкой степенью уверенности, могут выдавать неточные или ошибочные советы. Становится очевидным риск «галлюцинации ИИ», когда системы выдаютdent рекомендации, несмотря на ограниченное понимание. Для решения этой проблемы необходимо призвать власти к принятию согласованных количественных рамок для измерения и отчётности статистической точности информации, генерируемой ИИ.
Рассогласованность ИИ, уклонение от контроля и олигополии
Третий канал нестабильности возникает из-за сложности согласования целей ИИ с целями его операторов-людей. Хотя инструкции могут быть даны, нет гарантии, что ИИ будет вести себя этично или законно. Случаи сговора ИИ, когда алгоритмы сходятся во мнениях относительно стратегий ценообразования, и спонтанные нарушения закона подчёркивают сложности контроля поведения ИИ. Превосходная производительность ИИ, даже при его функционировании по назначению, может способствовать дестабилизации системы в периоды экстремального стресса. Дилемма для властей заключается в балансе между использованием ИИ для обеспечения стабильности системы и предотвращением его непреднамеренного вклада в нестабильность.
Последний канал проистекает из бизнес-модели компаний, занимающихся ИИ, что приводит к росту отдачи от масштабирования, подобно облачным вычислениям. Дефицит таких ресурсов, как графические процессоры, человеческий капитал и данные, подталкивает отрасль к олигополистической структуре. Такая концентрация власти усиливает процикличность, способствуя формированию схожих убеждений и действий в различных финансовых учреждениях, использующих один и тот же ИИ-инструмент. Потенциальное сотрудничество регулирующих органов с одним и тем же ИИ-инструментом ещё больше усиливает опасения по поводуdentуязвимостей до того, как они перерастут в системные риски.
Достижение баланса между достижениями ИИ и финансовой стабильностью
Поскольку как частный, так и государственный секторы используют ИИ благодаря его неоспоримой эффективности и экономическим преимуществам, нельзя игнорировать потенциальные угрозы финансовой стабильности. Сочетание социальных рисков,dentисследователями ИИ, и экономической нестабильности привлекает внимание к четырём ключевым источникам нестабильности. Хотя ожидается, что преимущества ИИ для финансовой системы будут исключительно позитивными, необходимо сохранять бдительность.
В докладе подчеркивается необходимость адаптации нормативных актов для реагирования на возникающие угрозы, чтобы не допустить превращения ИИ в незаменимый инструмент и источник системного риска до того, как будет разработан надлежащий ответ. Как регулирующие органы, ориентируясь в неизведанном мире интеграции ИИ в финансовый сектор, могут найти баланс между использованием ИИ для повышения эффективности и снижением потенциальных рисков для финансовой стабильности?
