은행들이 AI 에이전트를 아직 신뢰하지 않아 AI 에이전트가 파일럿 모드에 머무르고 있음

에이전트 AI는 금융 전반에서 주목받고 있지만, 업계의 가장 큰 장애물은 모델이 충분히 강력한지 여부가 아닙니다. 더 어려운 문제는 은행, 자산운용사, 재무팀이 돈, 책임, 규정 준수를 잃지 않고 자율 시스템에 금융 작업을 위임할 인프라를 갖추고 있는지 여부입니다.

3,300명 이상의 금융 및 회계 전문가를 대상으로 한 델로이트(Deloitte) 설문조사는 격차를 명확히 보여주었습니다: 80.5%가 에이전트 및 생성형 AI 챗봇과 같은 AI 기반 도구가 5년 이내에 표준이 될 수 있다고 답했지만, 13.5%만 조직이 이미 에이전틱 AI를 사용하고 있다고 답했습니다.

시티 스카이는 왜 인프라 논쟁이 중요한지 보여줍니다

시티는 4월 22일 구글 클라우드와 구글 딥마인드 기술을 활용하여 구축된 AI 기반 웰스 어시스턴트 '시티 스카이'를 출시했습니다. 이 도구는 구글의 제미니 엔터프라이즈 에이전트 플랫폼을 사용하여 개발되었으며, 이번 여름 미국 내 시티골드 고객에게 단계적으로 롤아웃될 예정입니다.

이 발사는 에이전트 AI 논쟁에 실제 은행 사례를 제시했습니다. 시티 웰스 기술 책임자 디펜드라 말호트라 기억을 고위험 자문 AI의 핵심 제약 사항으로 지적하며, 시스템이 환각을 시작하기 전에 고객이 대화를 얼마나 오래 유지할 수 있는지 물었습니다.

대부분의 에이전트는 외부 데이터베이스를 통해 기억을 확장하기 위해 검색 증강 생성(RAG)에 의존합니다. 컨텍스트 윈도우는 여전히 에이전트가 한 번에 보유할 수 있는 정보의 양을 제한합니다.

금융 자문, 재무 관리 또는 포트폴리오 실행에서 이러한 기억의 한계는 단순한 기술적 문제를 넘어선다. 이는 운영상의 리스크가 된다.

코인펠로 공동 창립자 미인치 파크는 신뢰할 수 있는 위임의 조건은 간단하다고 말했습니다: 에이전트는 사용자 지시 사항 내에서만 행동할 수 있어야 하며, 사용자가 이를 중단할 수 있고, 기반 자산이 제3자로 이동하지 않아야 합니다.

이더리움, 에이전트 신원을 위한 온체인 프리미티브 초안

이더리움 제안 ERC-8004는 에이전트 신원, 평판 및 검증을 위한 시스템을 도입합니다. 이 초안 표준은 세 가지 등록부를 설정합니다: 신원 등록부, 평판 등록부, 검증 등록부입니다.

이들은 함께 자율 에이전트가 자신의 신원을 증명하고, 행동 기록을 구축하며, 다른 시장 참여자의 검증을 지원하도록 돕는 것을 목표로 합니다.

ERC-8183은 더 좁은 경로를 취합니다. 이는 평가자 증명이 포함된 고용 에스크로 표준을 제안하며, 여기서 클라이언트가 작업을 자금 지원하고, 제공자가 작업을 제출하며, 평가자가 결과를 완료하거나 거부합니다.

이 제안은 중재나 공식 분쟁 해결을 제공하지는 않지만, 에이전트 기반 시장에 대해 에스크로된 작업과 검증 가능한 완수를 위한 프레임워크를 제공합니다.

arXiv 논문 '에이전트 이코노미: 자율적 AI 에이전트를 위한 블록체인 기반 토대'은 이 변화에 대한 5계층 아키텍처를 매핑하며, 물리적 인프라, 온체인 신원, 인지 도구, 경제 정산, 집단 거버넌스를 다룹니다.

평판 레이어는 여전히 구조적 취약성을 안고 있습니다. 에이전트는 인간이 따라잡을 수 없는 속도와 규모로 활동을 생성할 수 있어, 짧은 기간 동안 신뢰 신호를 부풀릴 가능성이 있습니다.

이는 금융 기관에게 어려운 질문을 남깁니다: 에이전트가 좋은 기록을 가지고 있을 때, 그 기록이 신뢰성의 증거인지 아니면 반복적인 자동화된 활동의 증거인지.

맥킨지는 50%에서 60%의 은행 업무를 대상으로 지정합니다

맥킨지는 은행의 정규직 환산(FTE)의 50%에서 60%가 운영에 연관되어 있다고 추정합니다. 전문가들은 운영 모델을 재설계하지 않고 좁은 개념 증명만 수행하는 '파일럿 연옥' 상황을 경고합니다.

크립토폴리탄이 홍콩 웹3 페스티벌에서 보도한 바에 따르면, 맥킨지는 에이전트 AI 시장이 2024년 52억 5천만 달러에서 2034년까지 약 2,000억 달러로 성장할 것으로 전망했습니다.

W3.io의 CEO 포터 스토웰은 다음과 같이 말했습니다.

네 가지 질문이 여전히 해결되지 않았습니다: AI 에이전트가 금융 손실을 초래했을 때 누가 책임을 지는지, 그 평판을 신뢰할 수 있는지, 이러한 시스템이 대규모로 배포된 후 누가 통제권을 가지는지, 그리고 에이전트가 그 범위를 벗어날 때 어떤 규제 프레임워크가 적용되는지입니다.