영국 은행, AI 에이전트를 금융 안정성 위험으로 지목, 글로벌 규제 대응 촉구

영국 은행의 금융 안정성 담당 부총재인 Sarah Breeden은 자율적 AI 시스템이 금융 시장, 사이버 보안 및 결제 인프라에 대한 점점 더 큰 위협이 되고 있다고 경고하며, 전 세계 중앙은행들이 해당 부문의 더 나은 규제를 검토할 것을 촉구했습니다.

포르투갈 시ント라에서 열린 유럽중앙은행(ECB) 연례 포럼에서 연설한 Breeden은 에이전트 AI의 발전 속도가 규제 기관이 예상했던 것보다 훨씬 빠르다고 설명했습니다. 그녀의 발언에 따르면, 2019년 선도적인 AI 모델이 완료할 수 있는 소프트웨어 작업의 길이는 7개월마다 두 배로 증가했습니다. 그러나 2024년에는 이 두 배 증가가 4개월마다 발생했습니다.

이번 봄 사이버 취약점 탐지 분야의 돌파구는 이러한 속도가 더욱 가속화되었을 수 있음을 시사합니다.

“우리는 이번 봄에 놀랐고, 더 많은 기술적 놀라움에 대비해야 합니다.”라고 Breeden은 6월 30일 행사에서 말했습니다.

콘텐츠 생성에서 자율적 행동까지

Breeden은 AI 개발의 세 가지 중요한 단계를 강조하며, 지난 10년 초에는 생성형 AI 시스템이 프롬프트가 있을 때만 콘텐츠를 생성했다고 설명했습니다. 2024년 말에는 모델이 다단계 문제를 추론하도록 훈련되었습니다. 이제 에이전트 시스템은 인간의 개입 없이도 스스로 계획하고 의사 결정 시퀀스를 실행할 수 있습니다.

금융에 적용될 때, 이러한 추세는 AI 에이전트가 인간의 개입을 최소화하면서 증권 거래, 결제 처리 및 사이버 위협 대응을 수행할 수 있는 시스템을 향한 것입니다. Breeden은 에이전트가 소비자, 상인 및 거래 플랫폼을 대신하여 행동하는 “규모와 속도로 더 자율적으로 운영되는” 금융 시스템을 묘사했습니다.

영국 은행, 사이버 위험에 가장 우려

여러 가지 금융 안정성 위험 중 Breeden은 사이버 보안을 가장 중요한 문제로 지목했습니다. 그녀는 영국 정부의 AI 보안 연구소를 인용하며, 에이전트 AI가 인터넷을 통해 수행할 수 있는 기능이 크게 향상되었음을 지적했습니다.

방어자가 취약점을 찾고 패치하는 데 도움이 되는 동일한 도구는 공격자가 취약점을 발견하고 악용할 수 있는 능력도 제공합니다. Breeden은 이러한 기능의 악의적 사용이 “금융 안정성에 해를 끼칠 수 있는 공격의 가능성을 실질적으로 증가시킨다”고 경고했습니다.

Breeden의 발언에는 시장 충격을 방지하기 위해 자율적 거래 도구에 내장된 “킬 스위치”가 필요할 수 있다는 제안이 포함되어 있었는데, 이는 현재 설정된 규제에서 벗어난 것입니다.

투자 붐, 막대한 위험 초래

Breeden은 이러한 AI 에이전트의 자금 조달과 관련된 또 다른 우려 사항을 언급했습니다. 영국 은행의 금융정책위원회는 4월 보고서에서 대규모 기술 기업들이 초기에 AI 인프라의 구축 및 유지 관리에 현금 흐름과 지분을 사용했지만, 부채 자금 조달의 사용이 빠르게 증가하고 있으며 새로운 복잡한 형태로 나타나고 있다고 결론지었습니다.

이는 AI 관련 자산 가치의 급격한 하락이 이제 신용 시장에 막대한 파장을 일으킬 수 있음을 의미합니다. 영국 은행의 부총재는 위원회가 “AI 관련 자산 가격의 하락이 금융 안정성에 미치는 영향이 커질 수 있다”고 판단했다고 말했습니다.

위원회가 이 주제에 대해 더 심층적으로 평가한 결과는 7월 7일에 발표될 예정입니다.

Breeden은 또한 중앙은행들이 AI가 도입한 위험을 관리하는 것뿐만 아니라 이러한 시스템을 감독하기 위해 자체적으로 AI를 활용하도록 적응해야 한다고 주장했습니다.