글로벌 사이버 보안 기관들, AI 보안 가이드라인에서 '설계 단계부터 보안(Secure by Design)' 접근법 옹호

영국 국가 사이버 보안 센터(NCSC)와 미국 사이버 인프라 보안국(CISA)은 전 세계 22개 사이버 파트너들과 함께 인공지능(AI) 시스템의 보안을 보장하기 위한 포괄적인 가이드라인을 발표했습니다. '설계 단계부터 보안(secure by design)' 철학을 강조하는 이 가이드라인은 AI 개발의 중요한 측면을 심도 있게 다루며, 사이버 위협과 취약점으로부터 기술을 강화하는 것을 목표로 합니다.

'Secure by Design'이라는 제목의 공동 가이드라인은 AI 및 머신러닝 애플리케이션과 관련된 증가하는 보안 위험을 강조하며, 특히 이러한 시스템에서 사용되는 공급망 취약점과 모델에서 비롯된 우려에 대응합니다.

보안의 기둥들

'Secure by Design'이라는 포괄적인 주제 아래, 가이드라인은 보안 설계, 보안 개발, 보안 배포, 보안 운영 및 유지보수의 네 가지 핵심 영역에 초점을 맞춥니다. 이러한 기둥들은 잠재적인 사이버 위협으로부터 AI 시스템을 보호하기 위한 견고한 프레임워크를 만드는 것을 공동 목표로 합니다.

첫 번째 기둥은 개념화 초기부터 AI 시스템의 본질과 구조에 보안 중심의 정신을 깊이 있고 광범위하게 주입하는 것의 불가항력적이고 최우선적인 중요성을 신중하게 강조합니다. 이 기둥은 개발자들이 시스템의 기본 아키텍처에 보안 고려사항에 대한 높고 흔들리지 않는 인식을 주입해야 하는 비타협적 필요성을 단호하게 강조하며, 이를 통해 제3자 모델과 API의 사용과 복잡하게 얽힌 취약점을 효과적으로 사전에 완화하고 경감시킵니다.

기초 원칙을 매끄럽고 유기적으로 이어받는 두 번째 기둥은 aforementioned 보안 패러다임의 범위를 개발 단계의 미로 같고 미묘한 영역으로 확장하고 설명합니다. 

이 기둥은 잠재적 결함이나 결함에 대한 신중하고 세심한 외부 API 검토, 외부 도메인으로의 데이터 전송 범위와 범위를 신중하고 신중하게 제한하는 것, 그리고 시스템 보안 태세를 잠재적으로 훼손할 수 있는 예상치 못하거나 원치 않는 시스템 행동의 출현을 방지하기 위한 불변의 헌신과 함께 훈련 데이터의 철저한 검토 및 정화를 포함하는 포괄적이고 현명한 조치들의 광범위한 배열을 열정적으로 옹호합니다.

글로벌 AI 보안 준수에서의 과제 해결

가이드라인이 AI 보안에 대한 국제 협력의 중요한 한 걸음을 나타내지만, 이행과 관련하여 과제가 발생합니다. Armis의 외부 및 정부 관계 부사장인 Tom Guarente는 가이드라인 개발에 참여하지 않은 국가들이 이러한 권장 사항을 구현하는 데 잠재적인 어려움을 강조합니다. 이는 중국, 러시아, 이란과 같은 주요 플레이어가 아직 글로벌 AI 규제에 동의하지 않은 가운데, 특히 글로벌 차원의 준수를 어떻게 보장할 것인지에 대한 질문을 제기합니다.

Guarente는 가이드라인 초안에 참여한 국가들이 개발 과정에 배제된 국가들에 비해 준수하는 것이 더 간단할 수 있다는 잠재적 격차를 지적합니다.

가이드라인은 빠르게 진화하는 AI 환경에서 사이버 보안의 중요한 역할에 대한 집단적 인식을 제공하지만, 이러한 조치를 글로벌 규모로 집행하는 데에는 과제가 남아 있습니다. Guarente의 우려는 더 넓은 국제적 합의와 AI 보안을 보장하기 위한 헌신의 필요성을 반영합니다.

AI 보안 가이드라인에서의 국제 협력과 과제

전 세계 커뮤니티가 AI 보안에 대한 공통 표준을 확립하기 위해 중요한 한 걸음을 내딛는 가운데, 실제 과제는 광범위한 채택과 이행을 보장하는 데 있습니다. 국제 사회는 협력 노력에 참여하지 않은 국가들의 지지를 얻고 격차를 어떻게 메꿀 수 있을까요? AI 보안을 향한 여정은 분명히 진행 중이지만, 앞으로의 길은 복잡성을 헤쳐 나가고 이 변혁적 기술을 보호하기 위한 단결된 헌신을 촉진하는 것을 요구합니다.