영국 은행 총재 앤드루 베일리, G20 서한에서 AI 우려 재점화

영국 은행 총재 앤드루 베일리는 세계 최고 금융 관리들에게 가장 정교한 인공지능 모델이 이제 글로벌 금융 시스템의 안정성을 위협한다고 경고했습니다.

베일리는 사이버 공격이 규제 당국이 먼저 우려해야 할 위험 중 하나라고 말합니다. 

왜 지금 AI로 인한 사이버 위험이 큰 우려사항인가요?

G20 재무장관들에게 보낸 서한에서, 영국 은행 총재 앤드루 베일리는 가장 정교한 인공지능 모델이 이제 글로벌 금융 시스템에 위협이 된다고 경고했습니다. 이 서한은 중앙은행 총재와 재무장관들이 참석할 예정인 아슈빌, 노스캐롤라이나에서 열리는 G20 회의 이전에 발송되었습니다. 

베일리는 금융 위험을 감시하는 국제 그룹인 금융안정위원회(FSB) 의장으로서 이 경고를 보냈습니다. 서한에서 그는 최전선 AI 모델이 “점점 더 정교한 자율성, 문제 해결 능력 및 위협 능력을 보이고 있다”고 설명했습니다. 

Cryptopolitan이 보고 영국 은행들은 수개월 동안 Anthropic의 Mythos 모델에 대한 시험 접근을 얻으려 노력해 왔으나, 미국의 정치적 긴장으로 인해 이를 얻지 못했습니다. 

특히 방어를 목적으로 함에도 불구하고, 이 도구는 베일리의 G20 서한에서 시스템적 위협으로 지적된 동일한 기술 클래스에 속합니다.

베일리는 차기 AI 돌파구 이전에 강력한 AI 모델을 안전하게 출시하기 위한 규칙에 정부들이 동의하기를 원합니다. 그는 은행들이 동일한 소수의 기술 공급자와 공유 컴퓨터 시스템에 의존하기 때문에 한 은행에 대한 사이버 공격이 빠르게 국경을 넘어 다른 은행으로 확산될 수 있다고 주장합니다.

베일리는 프런티어 AI가 사이버 리스크의 속도, 규모 및 경제성에 실질적인 변화를 줄 수 있는 능력을 가질 수 있다고 썼습니다. 이는 AI가 사이버 공격을 더 빠르게 발생시키고, 더 큰 피해를 초래하며, 공격자가 실행하는 데 드는 비용을 줄일 수 있음을 의미합니다. 

베일리의 경고는 근거 없는 것이 아닙니다. 오픈AI 직원은 최근 최첨단 AI 에이전트들이 훈련 환경을 벗어나기 전에 나쁜 행동의 징후를 목격했습니다. 앤트로픽도 최근 자신의 AI 모델이 사내 테스트 중 세 조직에 자체적으로 해킹했다고 보고했습니다.

6월, 영란은행의 부총재인 사라 브리든은 시ント라에서 중앙은행 관계자들에게 은행이 "킬 스위치,” 를 연구 중이라고 말했습니다. 이는 AI 모델이 시장 붕괴를 유발할 경우 시장 전체의 거래를 중단할 수 있는 비상용 도구입니다. 

크립토폴리탄은 에이전트 시스템이 시장, 사이버 보안 및 결제 시스템에 점점 더 큰 위험을 초래한다는 그녀의 후속 경고를 다뤘습니다.

AI 주식 붐이 시장 폭락을 초래할 수 있을까요?

베일리의 서한 두 번째 부분은 채권 및 주식 시장의 상승하는 부채 수준에 관한 것이었습니다. 그는 높은 주식 평가, 시장 집중도, 그리고 AI에 대한 투자자들의 열정이 결합되어 "미래의 시장 조정을 증폭시킬 수 있는" 위험한 양상을 보이고 있다고 경고했습니다.  

예를 들어, 엔비디아(NASDAQ: NVDA)의 가치는 이제 5.2조 달러가 넘습니다. 이 회사는 최근 미국 은행들과 투자자들로부터 5,000억 달러를 조달했으며, 주가는 5년 동안 850% 상승했습니다.

베일리의 우려 는 투자자들이 소수의 AI 기업 주식에 투자하기 위해 과도하게 차입했다는 점입니다. 만약 이러한 주식 가치가 하락하면, 이러한 투자자들은 손실을 메우기 위해 다른 자산을 매도해야 할 것입니다. 이러한 매도는 가격을 더 하락시켜 더 넓은 범위의 시장 폭락을 초래할 수 있습니다.

그는 또한 미국의 부채가 이제 40조 달러를 넘어섰다고 지적하며, 이는 이미 금리 변화에 민감한 채권 시장에 부담을 주고 있습니다.