영국 의원들, 시장 혼란 방지를 위해 AI 스트레스 테스트 도입 촉구

영국 의원들의 초당파 그룹은 규제 기관들에게 금융 부문의 AI 중심 스트레스 테스트 도입을 압박하며, 인공 지능 사용이 증가하면 관리되지 않을 경우 소비자들과 시장에 심각한 혼란을 초래할 수 있다고 경고했습니다.

화요일 발표된 보고서에서 재무위원회는 런던 금융가 전반에 걸쳐 인공 지능이 광범위하게 채택되었음에도 불구하고, 의원들이 신중한 '관망' 규제 태도라고 묘사한 금융감독청(FCA)과 영국 은행을 비판했습니다.

관계자들은 빠르게 진화하는 기술이 스트레스 테스트 도입과 같은 감독 기관들의 더 빠른 대응을 요구한다고 밝혔습니다. 금융 회사들이 인공 지능에 점점 더 의존함에 따라 지연은 안정성을 costing할 수 있습니다. 기계가 거래, 대출 승인 또는 위험 예측을 처리할 때 결함은 경고 없이 여러 플랫폼에 파급될 수 있습니다. 여러 시스템이 함께 실수할 경우, 아무도 반응하기 전에 혼란이 터질 수 있습니다.

의원들, AI가 금융 시장에 혼란을 초래할 수 있다고 경고

인공지능이 영국 금융 부문에서 빠르게 확산됨에 따라 감독 공백에 대한 경고가 나오고 있다. 일부 관계자들은 시스템이 감독을 너무 크게 앞지르게 될 경우의 결과에 대한 충분한 주의가 기울여지지 않고 있다고 지적한다. 의회 재무위원회는 영국 중앙은행, 금융감독당국(FCA), 재무부의 위험 관리 지연을 지적했다. 첨단 도구를 사용하는 민간 기업들이 설정한 속도는 현재의 규제 마련 노력보다 훨씬 빠르다.

지나치게 기다리면 문제가 발생했을 때 대응하기 전에 이미 피해가 닥칠 수 있다. 위원회는 관계자들이 문제가 발생하지 않기를 바라며 소극적으로 대응하고 있다고 지적했다. 시스템이 실패하면 상황을 빠르게 수정할 여지가 거의 없을 수 있다. 나중에 개입하는 것보다 어려운 상황에서 인공지능이 어떻게 작동하는지 관찰하는 것이 더 현명하다. 관계자들은 이미 모든 것이 무너지고 있을 때 당황하는 것보다 사전 준비가 더 낫다고 믿는다.

영국의 금융 부문 기업들은 일상적으로 인공지능에 점점 더 의존하고 있으며, 종종 시스템이 압박 하에서 어떻게 작동하는지에 대한 스트레스 테스트를 거치지 않는다. 영국 금융 기관의 75% 이상이 중앙 기능 전반에 AI를 사용하고 있어, 경제 결정에 미치는 영향은 오히려 보이지 않을 정도다. 투자 결정은 인간의 직관보다 기계적 논리에 따라 내려진다. 자동화는 승인을 안내하고 알고리즘은 전통적인 검토 없이 대출 자격을 판단한다. 보험 청구는 직원들의 평가가 아닌 코딩된 평가에 따라 처리된다.

기본적인 서류 작업조차 수동 대신 디지털로 처리된다. 속도가 이러한 프로세스의 핵심이지만, 결함이 드러날 때 신속성은 노출을 증가시킨다. 조직 간 연결이 밀접하기 때문에 하나의 작은 실책도 널리 파장을 일으킬 수 있다.

영국 중앙은행 금융정책위원회(FPC)의 외부 위원인 조나단 홀은 의원들에게 맞춤형 스트레스 테스트가 감독 기관이 새로운 위험을 조기에 감지하는 데 도움이 될 수 있다고 말했다. 그는 심각한 시장 혼란을 시뮬레이션하는 스트레스 시나리오가 시스템적 회복력에 더 광범위한 영향을 미치기 전에 AI 프레임워크의 취약점을 드러낼 수 있다고 설명했다. 

의원들, 규제당국에 AI 위험 테스트와 명확한 규칙 설정 촉구

인공지능이 경제 안정성을 서서히 약화시키는 것을 방지하기 위해 더 강력한 조치를 취해야 한다는 의원들의 주장은, 특히 스트레스 평가부터 시작하여 감독 기관들에게 논리적으로 보인다. 금융 감독자들은 경기 침체기 은행에 적용되는 것과 유사한 AI 중심의 맞춤형 평가를 채택하도록 입법자들로부터 점점 더 큰 압력을 받고 있다.

스트레스를 받으면 자동화된 도구는 예측 불가능하게 행동할 수 있습니다. 감독 기관은 가정 대신 증거가 필요합니다. 이러한 테스트를 통해서만 당국은 시장이 변할 때 알고리즘이 어떻게 혼란을 일으키거나 불안을 증폭시킬 수 있는지 정확히 볼 수 있습니다.

스트레스 테스트는 인공지능이 시장에 예상치 못하게 혼란을 일으킬 때 발생할 수 있는 상황을 모방할 수 있습니다. 알고리즘이 이상하게 작동하거나 작동을 멈출 때 감독 기관은 압박 상황下的 은행의 반응을 관찰할 수 있습니다. 

미리 준비하는 것은 거래 플랫폼뿐만 아니라 기관 내 위험 평가 및 안전장치의 취약점도 드러낸다. 혼란이 금융 채널을 통해 빠르게 확산된 후 대응하는 것보다 문제를 조기에 해결하는 것이 더 현명해 보인다. 사전에 문제를 식별하면 감독자와 기업 모두 아직 시간이 있을 때 방향을 조정할 수 있다.

스트레스 테스트 외에도 의원들은 금융 기관 내에서 인공지능의 일상적 사용을 규율할 명확한 지침의 필요성을 강조한다. 금융감독당국(FCA)은 실제 환경에서 윤리적 AI 적용을 위한 명확한 경계를 설정할 것을 촉구받고 있다.

가이드라인은 자동화 시스템이 인간 대신 결정을 내릴 때 기존 소비자 보호가 어떻게 적용되는지를 명확히 하여, 실패 시 책임 공백을 방지해야 한다. AI가 잘못 작동할 경우 책임 소재는 명확해야 하며, 기업이 책임을 기계로 돌리는 것을 불가능하게 만들어야 한다.

단일 주요 기술 플랫폼에 문제가 생기면 많은 은행이 함께 어려움을 겪을 수 있다. 이제 소수의 기업이 전국적으로 은행 시스템을 유지하는 큰 책임을 지고 있다. 

와 같은 이름의 서비스 호스팅이 아마존 웹 서비스(AWS) 또는 Google Cloud에 문제가 생기면 파급 효과가 빠르게 나타난다. 의원들은 많은 사람이 소수에게 의존할 때 얼마나 취약한지 지적한다. 의존도가 커질수록 결함이 발생하면 모두에게 더 큰 타격이 된다.