Крупные банки США блокируют сторонних ИИ-агентов после несанкционированного доступа к счетам

Несколько крупных банков США обнаружили множество непроверенных сторонних ИИ-агентов, действующих в рамках клиентских счетов. По данным Axios, некоторые из этих агентов выполняют действия, не связанные с запросами пользователей. Это открытие имеет важное значение для тех, кто подключает свои банковские счета к ИИ-ассистентам: теперь банки блокируют такой доступ, чтобы защитить средства клиентов.

Агенты входят в системы американских банков, используя реальные учетные данные клиентов

Согласно Axios, основная проблема заключается в том, что ИИ-агенты получают доступ к этим американским банкам, используя учетные данные, которыми клиенты поделились сами. Такое действие нарушает правила большинства этих банков, которые требуют, чтобы владельцы счетов входили в систему самостоятельно.

Даже когда пользователь предоставляет агентам разрешение на действия, руководители банков опасаются их точных возможностей. Предоставление агенту права совершать покупки или переводить деньги может привести к ошибке или выполнению вредоносной команды, что повлечет за собой списание или неправильное распределение средств.

Банки также сообщают о случаях, когда ИИ-агенты звонили в службы поддержки клиентов. В некоторых случаях они действовали по собственной инициативе, без прямых запросов от пользователей. Один из представителей банковской отрасли заявил, что индустрия глубоко обеспокоена тем, что ИИ-агенты получают доступ к счетам и принимают решения, влияющие на финансовые средства клиентов.

Morgan Stanley начинает блокировку, другие банки следуют его примеру

Morgan Stanley теперь блокирует доступ сторонних агентов к своим платформам, сообщили источники Axios. JPMorgan, Bank of America и Citi присоединились к этому шагу, ужесточив контроль доступа агентов. Wells Fargo также является одним из банков, работающих над сдерживанием этого нового риска.

Банки реагируют по-разному. Chase предупредил клиентов никогда не передавать свои данные для входа никому. Morgan Stanley заявил, что не зафиксировал случаев несанкционированного доступа ИИ-агентов к своим системам.

Банки меняют правила и ограничивают использование внешних инструментов автоматизации, пытаясь определить, следует ли ИИ-агент запросу пользователя или действует самостоятельно.

Доступ только для чтения рассматривается как компромиссный вариант

Большинство этих американских банков склоняются к предоставлению доступа только для чтения. Это позволяет ИИ-агентам просматривать балансы счетов и историю транзакций без возможности вносить изменения или переводить деньги. Это аналогично тому, как банки работают с приложениями для управления бюджетом, такими как Quicken.

Руководители банков сообщили Axios, что ожидают роста числа клиентов, использующих ИИ-ассистентов, поэтому банки не планируют навсегда блокировать их. На данный момент они считают предоставление этим инструментам полного доступа слишком рискованным.

Одна из проблем заключается в том, что банки часто не могут определить, имеют ли они дело с реальным человеком или с ботом. Им также сложно установить, действует ли агент на базе искусственного интеллекта с разрешения владельца аккаунта или получает доступ к нему без одобрения.

Почему это воспринимается как пробел в политике, а не как нарушение

Вопрос касается прежде всего того, как американские банки управляют рисками и соблюдают внутренние правила, а не его влияния на прибыль. Утечка безопасности может привести к прямым финансовым потерям и судебным искам. Однако когда легитимный ИИ-инструмент использует учетные данные ненадлежащим образом, проблема становится более сфокусированной на пробелах в банковской политике.

Предыдущие инциденты безопасности в банках часто развивались по схожему сценарию: сначала появляется новостной репортаж, после чего банки разъясняют свои меры защиты. Затем регуляторы изучают, покрывают ли существующие правила вопросы доступа агентов ИИ к аккаунтам и их идентификации.

По информации источников Axios, американские банки инвестируют в меры безопасности и планы действий в чрезвычайных ситуациях, которые помогут быстро заблокировать или восстановить доступ клиентов в случае эскалации инцидента с участием агента на базе ИИ.