영국 중앙은행, 인공지능 에이전트를 금융 안정 위험 요소로 지목하며 전 세계적인 규제 대응 촉구

영국 중앙은행의 금융안정 담당 부총재인 사라 브리든은 자율 인공지능 시스템이 금융 시장, 사이버 보안 및 결제 인프라에 점점 더 큰 위협이 되고 있다고 경고하며, 전 세계 중앙은행들이 해당 분야에 대한 더 나은 규제 방안을 검토해야 한다고 촉구했습니다.

포르투갈 신트라에서 열린 유럽중앙은행 연례 포럼에서 브리든은 에이전트형 인공지능(AI)이 규제 당국의 예상보다 빠르게 발전하고 있다고 설명했습니다. 그녀의 발언에 따르면, 2019년에는 선도적인 AI 모델이 완료할 수 있는 소프트웨어 작업의 소요 시간이 7개월마다 두 배로 증가했지만, 2024년에는 4개월마다 두 배로 증가할 것으로 예상됩니다.

올봄 사이버 취약점 탐지 분야의 획기적인 발전은 이러한 속도가 가속화되었을 가능성을 시사합니다.

브리든은 6월 30일 행사에서 "우리는 올봄에 놀랐고, 앞으로도 기술 분야에서 더 많은 놀라움을 맞이할 준비를 해야 한다" 고 말했다

콘텐츠 생성부터 자율적인 행동까지

브리든은 인공지능 개발의 세 가지 중요한 단계를 강조하며, 10년 초반에는 생성형 인공지능 시스템이 지시가 있을 때만 콘텐츠를 생성했다고 설명했습니다. 2024년 후반에는 모델이 여러 단계를 거치는 문제를 추론하도록 훈련되었고, 이제는 에이전트형 시스템이 인간의 감독 없이 순전히 스스로 일련의 의사 결정을 계획하고 실행할 수 있게 되었다고 덧붙였습니다.

금융 분야에 적용하면 이러한 발전 방향은 AI 에이전트가 인간의 개입을 최소화하면서 증권 거래, 결제 처리, 사이버 위협 대응 등을 수행할 수 있는 시스템으로 이어질 것입니다. 브리든은 나아가 이러한 금융 시스템이 "소비자, 판매자, 거래 플랫폼을 대신하여 에이전트가 작동하는, 더욱 자율적이고 확장 가능하며 빠른 속도로 운영되는" 시스템이 될 것이라고 설명했습니다.

영국 중앙은행은 사이버 위험에 대해 가장 큰 우려를 표명했습니다

브리든은 여러 금융 안정성 위험 요소 중 사이버 보안을 가장 중요한 문제로 꼽았습니다. 그녀는 영국 정부의 AI 보안 연구소가 발표한 자료를 인용하며, 인공지능 에이전트가 인터넷을 통해 수행할 수 있는 작업이 크게 개선되었다고dent했습니다.

보안 담당자들이 취약점을 찾아 패치하는 데 사용하는 도구들이 공격자들에게도 취약점을 발견하고 악용할 수 있는 능력을 제공합니다. 브리든은 이러한 기능의 악용이 "금융 안정성을 해칠 수 있는 공격 가능성을 상당히 높인다"고 경고했습니다

브리든은 자율 거래 도구에 시장 충격을 방지하기 위한 "킬 스위치"가 내장되어야 할 수도 있다는 의견을 제시했는데, 이는 현행 규정에서 벗어나는 것입니다.

투자 붐은 엄청난 위험을 초래한다

브리든은 이러한 AI 에이전트의 자금 조달과 관련하여 또 다른 우려 사항을 언급했습니다. 영란은행 금융정책위원회는 지난 4월, 대형 기술 기업들이 초기에는 cash 흐름과 자기자본으로 AI 인프라 구축 및 유지에 필요한 자금을 조달했지만, 부채 조달이 급격히 증가하고 있으며 새롭고 복잡한 형태를 띠고 있다고 결론지었습니다.

이는 인공지능 관련 자산 가치의 급격한 하락이 신용 시장 전반에 엄청난 ripple 일으킬 수 있음을 의미합니다. 영란은행 부총재는 위원회가 "인공지능 관련 자산 가격 하락이 금융 안정에 미치는 영향이 상당히 커질 수 있다"고 판단했다고 밝혔습니다

위원회는 이 주제에 대해 보다 심층적인 평가를 7월 7일에 발표할 예정입니다.

브리든은 또한 중앙은행들이 인공지능으로 인해 발생하는 위험을 관리하는 데만 집중할 것이 아니라, 이러한 시스템을 감독하는 데 있어 인공지능을 직접 활용할 수 있도록 적응해야 한다고 주장했습니다.