글로벌 사이버보안 기관들이 AI 보안 지침에 '설계 단계부터 보안을 고려하는' 접근 방식을 권고하고 있다

영국 국가사이버보안센터(NCSC)와 미국 사이버보안 및 인프라 보안국(CISA)은 전 세계 22개 사이버 보안 파트너 기관과 함께 인공지능(AI) 시스템의 보안을 보장하기 위한 포괄적인 가이드라인을 발표했습니다. "설계 단계부터 보안을 고려하는" ​​철학을 강조하는 이 가이드라인은 AI 개발의 핵심적인 측면들을 심층적으로 다루며, 사이버 위협과 취약점으로부터 기술을 보호하는 것을 목표로 합니다.

"설계 단계부터 보안을 고려하라(Secure by Design)"라는 제목의 공동 지침은 인공지능 및 머신러닝 애플리케이션과 관련된 보안 위험이 증가하고 있음을 강조하며, 특히 공급망 취약성과 이러한 시스템에 사용되는 모델에서 비롯되는 우려 사항을 다룹니다.

안보의 기둥

'설계 단계부터 보안을 고려한다'는 포괄적인 주제 아래, 이 가이드라인은 안전한 설계, 안전한 개발, 안전한 배포, 안전한 운영 및 유지 관리라는 네 가지 핵심 영역에 중점을 둡니다. 이러한 핵심 요소들은 인공지능 시스템을 잠재적인 사이버 위협으로부터 보호하기 위한 견고한 프레임워크를 구축하는 것을 목표로 합니다.

첫 번째 핵심 원칙은 인공지능 시스템의 본질과 구조에 보안 중심적 사고방식을 심도 있고 광범위하게, 개념화 초기 단계부터 철저히 내재화하는 것이 무엇보다 중요하다는 점을 강조합니다. 이 원칙은 개발자가 시스템의 기본 아키텍처에 보안 고려 사항에 대한 높은 수준의 인식을 확고히 심어주어야 하며, 이를 통해 타사 모델 및 API 사용과 복잡하게 얽혀 있는 취약점을 효과적이고 선제적으로 완화해야 한다는 점을 분명히 밝히고 있습니다.

그다음 기둥은 기초 원칙을 매끄럽고 유기적으로 계승하면서 앞서 언급한 보안 패러다임의 범위를 미로처럼 복잡하고 미묘한 개발 단계의 영역으로 확장하고 설명합니다. 

이 핵심 원칙은 사려 깊고 현명한 다양한 조치를dent하고 확고하게 지지하며, 여기에는 잠재적인 허점과 결함을 찾기 위한 외부 API의 꼼꼼하고 세심한 검토, 외부 도메인으로의 데이터 전송 범위 및 한계의 신중하고 조심스러운 제한, 그리고 시스템 보안 태세의 신성함을 위협할 수 있는 예상치 못한 바람직하지 않은 시스템 동작의 발생을 방지하고 예방하기 위한 확고한 의지를 바탕으로 한 훈련 데이터의 철저하고 꼼꼼한 검토 및 정제가 포함되지만 이에 국한되지는 않습니다.

글로벌 AI 보안 규정 준수 관련 과제 해결

이번 가이드라인은 인공지능 보안에 대한 국제 협력을 진전시키는 중요한 발걸음이지만, 시행 측면에서는 어려움이 따릅니다. 아르미스(Armis)의 대외협력 담당dent 톰 구아렌테는 가이드라인 개발에 참여하지 않은 국가들이 권고 사항을 이행하는 데 어려움을 겪을 수 있다고 지적합니다. 특히 중국, 러시아, 이란과 같은 주요 국가들이 아직 국제 인공지능 규제에 대한 확약을 하지 않은 상황에서, 전 세계적인 준수를 어떻게 보장할 수 있을지에 대한 의문이 제기됩니다.

Guarente는 이행 용이성 측면에서 잠재적인 격차가 있을 수 있다고 지적하며, 가이드라인 초안 작성에 참여한 국가들은 개발 과정에서 배제된 국가들에 비해 가이드라인을 준수하는 것이 더 수월할 수 있다고 주장합니다.

이 가이드라인은 급속도로 진화하는 AI 환경에서 사이버 보안의 중요성을 공통적으로 인정하고 있지만, 이러한 조치를 전 세계적으로 시행하는 데에는 여전히 어려움이 있습니다. Guarente의 우려는 AI 보안을 보장하기 위한 보다 폭넓은 국제적 합의와 노력이 필요하다는 점을 시사합니다.

인공지능 보안 지침 분야의 국제 협력 및 과제

전 세계가 인공지능 보안 에 대한 공통 표준을 수립하는 데 상당한 진전을 이루고 있는 가운데 , 진정한 과제는 광범위한 도입과 시행을 보장하는 데 있습니다. 국제 사회는 어떻게 이러한 격차를 해소하고 협력에 참여하지 않는 국가들의 지지를 얻을 수 있을까요? 인공지능 보안을 향한 여정은 분명 진행 중이지만, 앞으로 나아가기 위해서는 복잡한 문제들을 해결하고 이 혁신적인 기술을 보호하기 위한 통일된 노력을 기울여야 합니다.