영국 의원들은 시장 혼란을 막기 위해 AI 스트레스 테스트 도입을 추진하고 있습니다

영국 의원들로 구성된 초당파 그룹은 금융 부문에 인공지능(AI) 중심의 스트레스 테스트를 도입할 것을 규제 당국에 촉구하며, 인공지능 사용이 증가함에 따라 제대로 관리되지 않을 경우 소비자와 시장에 심각한 혼란을 초래할 수 있다고 경고했습니다.

화요일에 발표된 보고서에서 재무위원회는 런던 금융가 전반에 걸쳐 인공지능이 널리 도입되었음에도 불구하고 금융감독청(FCA)과 영란은행이 인공지능에 대해 신중한 "관망"식 규제 입장을 취하고 있다고 비판했습니다.

관계자들은 급속도로 발전하는 기술로 인해 감독 기관이 스트레스 테스트 도입과 같은 신속한 대응을 해야 한다고 밝혔습니다. 금융 회사들이 인공지능에 점점 더 의존하게 되면서, 대응 지연은 안정성을 해칠 수 있습니다. 기계가 거래, 대출 승인, 위험 예측 등을 처리할 때 발생하는 오류는 예고 없이 여러 플랫폼에 ripple 될 수 있습니다. 여러 시스템이 동시에 오작동을 일으키면, 누구도 제대로 대응하기 전에 혼란이 발생할 수 있습니다.

의원들은 인공지능이 금융 시장을 교란시킬 수 있다고 말합니다.

영국의 금융 부문에서 인공지능이 빠르게 확산됨에 따라 감독상의 허점에 대한 우려가 제기되고 있습니다. 일부 관계자들은 시스템 발전 속도가 감독 체계를 앞지를 경우 발생할 수 있는 문제에 대한 충분한 고려가 이루어지지 않고 있다고 지적합니다. 의회 재무위원회는 영란은행, 금융감독청, 재무부의 위험 관리 지연을 언급하며, 첨단 도구를 사용하는 민간 기업의 발전 속도가 현행 규제 마련 속도를 훨씬 앞지르고 있다고 비판했습니다.

너무 오래 기다리면 누군가 대응하기도 전에 문제가 발생할 수 있습니다. 위원회는 관계자들이 문제가 발생하지 않기를 바라며 대응을 미루고 있다고 지적합니다. 시스템이 고장 나면 신속하게 문제를 해결할 여지가 거의 없을 수 있습니다. 나중에 개입하기보다는 어려운 상황에서 인공지능이 어떻게 작동하는지 지켜보는 것이 더 현명할 수 있습니다. 관계자들은 모든 것이 이미 무너져 내릴 때 허둥지둥하는 것보다 미리 준비하는 것이 낫다고 생각합니다.

영국 금융 부문 전반의 기업들은 인공지능(AI)에 대한 의존도를 날로 높여가고 있지만, 시스템이 실제 상황에서 어떻게 작동하는지에 대한 스트레스 테스트는 제대로 거치지 않는 경우가 많습니다. 영국 금융 기관의 75% 이상이 핵심 기능에 AI를 활용하고 있어, 경제적 의사 결정에 미치는 영향은 사실상 드러나지 않고 있습니다. 투자 결정은 인간의 직관이 아닌 기계의 논리에 따라 이루어지고, 승인 절차는 자동화 시스템에 의해 안내되며, 알고리즘은 기존의 검토 절차 없이 대출 자격 여부를 판단합니다. 보험금 청구는 담당 직원의 평가가 아닌 코드로 분석된 평가를 기반으로 진행됩니다.

기본적인 서류 작업조차도 수작업이 아닌 디지털 방식으로 처리됩니다. 속도가 이러한 프로세스의 핵심이지만, 속도가 defi수록 오류가 발생했을 때 그 파장이 더 커집니다. 조직 간의 연결 고리가 긴밀하기 때문에 단 한 번의 실수가 광범위하게 파급될 수 있습니다.

영국 중앙은행 금융정책위원회 외부 위원인 조너선 홀은 의원들에게 인공지능에 맞춘 스트레스 테스트가 감독 기관이 새로운 위험을 더 일찍 감지하는 데 도움이 될 수 있다고 말했습니다. 그는 심각한 시장 혼란을 시뮬레이션하는 스트레스 시나리오를 통해 시스템 회복력에 광범위한 영향을 미치기 전에 AI 프레임워크의 취약점을 드러낼 수 있다고 설명했습니다. 

국회의원들은 규제 당국에 AI 위험성을 검증하고 명확한 규정을 마련할 것을 촉구했다

국회의원들이 인공지능이 경제 안정성을 조용히 훼손하는 것을 막기 위해 스트레스 평가부터 시작하여 더욱 강력한 조치를 취해야 한다고 주장하는 것은 감독 기관 입장에서 당연한 요구로 보입니다. 금융 감독 당국은 경기 침체기에 은행에 적용되는 것과 유사한, 인공지능에 초점을 맞춘 맞춤형 평가 방식을 도입하라는 입법부의 압력에 직면하고 있습니다.

과부하 상태에서 자동화 도구는 예측 불가능한 동작을 보일 수 있으며, 감독 당국은 추측이 아닌 증거를 필요로 합니다. 이러한 실험을 통해서만 당국은 알고리즘이 시장 변화에 따라 어떻게 혼란을 야기하거나 혼돈을 증폭시킬 수 있는지 정확히 파악할 수 있습니다.

스트레스 테스트는 인공지능이 예상치 못하게 시장을 교란할 경우 발생하는 상황을 모방할 수 있습니다. 알고리즘이 이상하게 작동하거나 작동을 멈출 때, 감독 기관은 압박 속에서 은행의 반응을 관찰할 수 있습니다. 

사전 준비는 거래 플랫폼뿐만 아니라 금융기관 내부의 위험 평가 및 안전장치에 존재하는 취약점을 드러냅니다. 금융 채널을 통해 혼란이 빠르게 확산된 후에 대응하는 것보다 문제를 조기에 해결하는 것이 현명합니다. 사전에 문제를dent감독 당국과 기업 모두 시간이 있을 때 방향을 조정할 수 있습니다.

스트레스 테스트 외에도 국회의원들은 금융기관 내 인공지능의 일상적인 사용을 규율하는 명확한 지침의 필요성을 강조했습니다. 금융감독청(FCA)은 실제 환경에서 윤리적인 인공지능 적용을 위한 명확한 기준을 설정해야 한다는 촉구를 받고 있습니다.

자동화 시스템이 인간 대신 결정을 내릴 때 현행 소비자 보호 조치가 어떻게 적용되는지 명확히 하는 지침이 마련되어야 하며, 오류 발생 시 책임 소재가 불분명해지는 것을 방지해야 합니다. 인공지능이 오작동할 경우 책임 소재를 명확히 밝혀 기업이 기계에 책임을 전가할 수 없도록 해야 합니다.

단 하나의 주요 기술 플랫폼에 문제가 생기면 수많은 은행들이 혼란에 빠질 수 있습니다. 현재 소수의 기업들이 전국 은행 시스템 운영에 대한 막중한 책임을 지고 있습니다. 

같은 곳에서 호스팅되는 서비스에 문제가 생기면 아마존 웹 서비스 나 구글 클라우드 ripple 는 빠르게 퍼져나갑니다. 의원들은 너무나 많은 사람들이 소수의 서비스에 의존할수록 상황이 얼마나 취약해지는지 지적합니다. 의존도가 커질수록 작은 문제라도 발생하면 모두에게 더 큰 타격을 줍니다.