Искусственный интеллект застрял в пилотном режиме, потому что банки до сих пор ему не доверяют

Искусственный интеллект, управляемый агентами, привлекает все больше внимания в финансовой сфере, но самым большим препятствием для отрасли уже не является достаточная мощность моделей. Более сложная проблема заключается в том, обладают ли банки, управляющие активами и казначейские отделы необходимой инфраструктурой для делегирования финансовых задач автономным системам без потери контроля над денежными средствами, подотчетности или соблюдения нормативных требований.

Опрос Deloitte, проведенный среди более чем 3300 специалистов в области финансов и бухгалтерского учета, наглядно продемонстрировал этот разрыв: 80,5% заявили, что инструменты на основе ИИ, такие как агенты и чат-боты GenAI, могут стать стандартом в течение пяти лет, но только 13,5% сказали, что их организации уже используют агентный ИИ.

Компания Citi Sky продемонстрировала, почему дискуссия об инфраструктуре имеет значение

22 апреля Citi запустила Citi Sky, интеллектуального помощника по управлению активами на основе искусственного интеллекта, созданного с использованием технологий Google Cloud и Google DeepMind. Инструмент разработан с помощью платформы Google Gemini Enterprise Agent Platform и планируется поэтапно внедрять для клиентов Citigold в США этим летом.

Запуск предоставил реальный банковский пример дискуссии об искусственном интеллекте, управляемом агентами. Глава отдела технологий управления активами Citi Дипендра Малхотра указал на память как на главное ограничение для консультативного ИИ в сложных ситуациях, задав вопрос, как долго клиент может поддерживать разговор, прежде чем система начнет выдавать галлюцинации.

Большинство агентов используют генерацию с расширением памяти за счет внешних баз данных, что позволяет им использовать расширенные возможности поиска. Контекстные окна по-прежнему ограничивают объем информации, которую агент может хранить одновременно.

В сфере финансового консультирования, управления казначейством или исполнения портфельных операций этот предел памяти становится не просто технической проблемой, а операционным риском.

Минчи Парк, соучредитель CoinFello, заявил, что условия для надежного делегирования просты: агент может действовать только в соответствии с инструкциями пользователя, пользователь может его остановить, а базовые активы никогда не переходят к третьей стороне.

Ethereum разрабатывает базовые механизмы дляdentагентов в блокчейне

В предложении ERC-8004 Ethereum представлены системыdent, репутации и валидации агентов. Проект стандарта предусматривает три реестра: реестрdent, реестр репутации и реестр валидации.

Вместе они призваны помочь автономным агентам доказать свою личность, создать запись о своем поведении и обеспечить проверку со стороны других участников рынка.

Стандарт ERC-8183 идет по более узкому пути. Он предлагает стандарт депонирования работ с подтверждением оценщика, где клиент финансирует работу, поставщик предоставляет работу, а оценщик завершает или отклоняет результат.

Предложение не предусматривает арбитража или формального разрешения споров, но предоставляет рынкам, работающим через агентов, основу для депонирования средств и подтверждения завершения сделок.

В статье arXiv «Экономика агентов: основа на основе блокчейна для автономных агентов искусственного интеллекта» описывается пятиуровневая архитектура этого перехода, охватывающая физическую инфраструктуру, идентификацию в блокчейнеdentкогнитивные инструменты, экономические расчеты и коллективное управление.

Уровень репутации по-прежнему имеет структурную уязвимость. Агенты могут генерировать активность со скоростью и в масштабах, недоступных человеку, что позволяет завышать сигналы доверия за короткие промежутки времени.

В связи с этим перед финансовыми учреждениями встает сложный вопрос: если у агента хорошая репутация, является ли эта репутация свидетельством надежности или просто доказательством многократной автоматизированной деятельности?

Компания McKinsey относит к сфере своей деятельности от 50% до 60% банковских операций

По оценкам McKinsey, от 50% до 60% штатных сотрудников банков заняты в операционной деятельности. Эксперты предупреждают о «пилотном чистилище», когда учреждения проводят узкие проверки концепции, не перестраивая операционную модель.

Как Cryptopolitan сообщало с фестиваля Web3 в Гонконге, компания McKinsey прогнозирует, что рынок агентного ИИ вырастет с 5,25 млрд долларов в 2024 году до примерно 200 млрд долларов к 2034 году.

Портер Стоуэлл, генеральный директор W3.io, заявил: «У предприятий нет возможности видеть, контролировать или проверять, что автономные системы делают с их деньгами. Человеческий контроль никуда не исчезает. Он просто перемещается вверх по иерархии»

Остаются нерешенными четыре вопроса: кто несет ответственность, когда агент ИИ причиняет финансовые потери, можно ли доверять его репутации, кто контролирует ситуацию после масштабного развертывания таких систем и какая нормативно-правовая база применяется, когда агент действует за пределами своей компетенции.