FCA CEO, 금융 서비스 부문의 AI 교란에 경고를

금융 Conduct Authority(FCA)의 최고 경영자 (CEO)인 니킬 라티는 우려를 제기했습니다 금융 서비스 부문에서 인공지능 (AI) 의 위험이 증가하고 있다고 합니다. 업계 리더들을 대상으로 연설한 라티는 AI 가 사이버 위험과 온라인 사기를 특히 중심으로 예전에는 없던 방식으로 산업을 교란할 잠재력이 있음을 강조했습니다. 그는 FCA가 AI 기반 사기 활동에 대해 조치를 취할 것이라고 경고했습니다. 이러한 경고는 영국이 AI 관련 위험 및 규제에 대한 국제적 노력을 주도하려는 목표와 맞물려 있으며, 다가오는 AI 위험 및 규제 정상회의가 예정되어 있습니다.

AI 의 부상하는 위협

라티에 따르면, AI가 더욱 보편화됨에 따라 사이버 사기, 사이버 공격 및 신원 사기의 규모, 정교함, 효과성이 급격히 확대될 위험이 큽니다. 리시 수낙 영국 총리가 5 월 주요 AI 기업 최고경영진과 만난 것은 UK 가 글로벌 AI 규제 최전선에 서고자 하는 의지를 강조한 것이었습니다. 그러나 라티는 AI 기술이 금융 기업의 위험을 증가시켜 최종적으로 고위 관리자가 AI 가 내린 결정에 대한 책임을 지게 될 것이라고 경고했습니다. 그는 AI 도입 속도에 맞춰 사기 예방, 운영 복원력 및 사이버 보안 조치에 대한 투자를 가속화할 필요성을 강조했습니다.

딥페이크의 도전

라티는 개인 금융 캠페인가 마틴 루이스가 투기적 투자를 홍보하는 최근 딥페이크 영상 사례를 인용했습니다. 루이스는 이 영상을 '공포스럽다'고 묘사하며 유사한 사기를 막기 위한 규제 조치를 촉구했습니다. 이러한 우려가 커짐에 따라 여러 기술 플랫폼은 AI 도구를 통해 생성된 콘텐츠에 명확한 라벨을 붙이기 시작했습니다. 전 세계 정부들도 AI 규제 프레임워크 마련에 힘쓰고 있습니다. 예를 들어 마이크로소프트는 2020 년 9 월 허위 정보 퇴치를 위해 딥페이크 사진과 동영상을 식별할 수 있는 탐지 도구를 도입했습니다.

규제 환경의 이해

AI 의 중요성이 높아짐에 따라 FCA 는 규제적 난관에 직면해 있습니다. 사이버 보안 전문 기업 리버세이프의 CEO 스이드 아데얀주는 앞으로 닥칠 도전과 기회를 해결하기 위해 기업과의 열린 소통 유지의 중요성을 강조했습니다. 아데얀주는 AI 를 활용한 사이버 공격과 온라인 사기의 복잡성을 지적하며 금융 서비스 기업이 사이버 보안 역량을 강화하고 이러한 위협을 효과적으로 중화할 것을 촉구했습니다.

사기 탐지 강화

사기 탐지 플랫폼 파사비 (Pasabi) 의 CEO 크리스 다우니는 금융 서비스 업계가 AI 기반 사기와 스캠을 탐지하는 능력을 강화할 필요성을 강조했습니다. 다우니는 FCA 가 사기 예방 조치를 강화하기 위한 시급성을 인식한 점을 높이 평가하며, FCA, 기업 및 사기 방지 소프트웨어 제공업체 간의 협력이 중요하다고 강조했습니다. 이러한 협력을 통해 고급 사기 탐지 기술을 도입하고 금융 서비스 시장에 대한 신뢰를 회복할 수 있을 것입니다.

FCA의 CEO인 니킬 라티는 금융 서비스 부문에서 AI가 제기하는 성장하는 위협을 강조했습니다. AI 기술이 발전함에 따라 사이버 사기 및 온라인 스캠의 위험은 규모와 정교함 측면에서 증가하고 있습니다. FCA는 유익한 혁신과 비례적인 보호를 장려하면서 AI 기반 사기 활동에 대해 단호한 입장을 취할 계획입니다. 핵심 과제는 기업과의 효과적인 소통을 유지하고 사이버 보안 및 사기 방지 조치에 대한 투자를 가속화하여 AI 기반 위협에 선제적으로 대응하는 것입니다. 업계 전문가들과 협력함으로써 규제 기관은 최신 기술을 활용하여 AI 기반 사기를 탐지하고 무력화하여 금융 서비스 시장에 대한 신뢰를 회복할 수 있습니다.