CISA와 영국 NCSC, 안전한 AI 시스템 개발을 위한 가이드라인 공동 발표

미국의 사이버 보안 및 인프라 보안국(CISA)과 영국의 국가 사이버 보안 센터(NCSC)는 협력하여 '안전한 AI 시스템 개발을 위한 가이드라인'을 공동으로 발표했습니다. 23개 사이버 보안 기관이 공동 서명한 이 간행물은 인공지능(AI), 사이버 보안, 그리고 핵심 인프라의 교차점을 해결하기 위한 중추적인 노력을 의미합니다. 

이 가이드라인은 미국의 '안전하고 신뢰할 수 있는 AI 보장 위한 자발적 약속'과 조화를 이루며, AI 시스템 개발을 위한 중요한 권장 사항을 제시합니다. 이는 '설계 단계부터 보안(Secure by Design)' 원칙을 준수하는 것의 중요성을 강조합니다. 이 접근 방식은 고객 보안 결과를 최우선으로 하며, 급진적인 투명성과 책임성을 옹호하고, 보안 설계가 우선시되는 조직 구조를 확립합니다.

안전한 AI 시스템 개발을 위한 가이드라인의 핵심

가이드라인은 최첨단 AI 모델뿐만 아니라 다양한 AI 시스템에 적용되는 광범위한 범위를 포괄합니다. 제공된 권장 사항 및 완화 방안은 데이터 과학자, 개발자, 관리자, 의사 결정자, 위험 소유자가 보안 설계, 모델 개발, 시스템 배포 및 운영과 관련된 정보에 기반한 의사 결정을 내리는 데 도움을 주는 것을 목표로 합니다. 이 문서는 모델이 내부에 호스팅되든 외부 API에 의존하든 관계없이 모든 AI 시스템 제공자를 대상으로 합니다.

또한 가이드라인은 AI 보안에 대한 포괄적인 접근 방식을 강조하며 이해관계자들 간의 집단적 책임감을 고취합니다. 고객 보안 결과에 대한 초점은 패러다임의 전환을 신호하며, 조직들이 AI 개발 전 주기에 걸쳐 보안 고려사항을 내재화하도록 장려합니다. 급진적인 투명성과 책임성은 핵심 원칙으로 부상하여, 조직들이 자신의 AI 시스템의 기능과 잠재적 위험에 대해 공개적으로 소통하도록 촉구합니다. 가이드라인이 주장하는 조직 구조는 안전한 설계를 최우선 과제로 위치시켜, 이해관계자들이 진화하는 사이버 위협으로부터 AI 시스템을 보호하기 위해 적극적으로 참여하는 문화를 조성합니다.

이해관계자 참여 및 AI 로드맵

주요 대상은 AI 시스템 제공자이지만, 이 가이드라인은 데이터 과학자, 개발자, 관리자, 의사 결정자, 위험 소유자를 포함한 광범위한 이해관계자들이 그 내용을 깊이 있게 탐구하도록 장려합니다. 제공된 가이드는 머신러닝 AI 시스템의 설계, 배포 및 운영과 관련된 정보에 기반한 의사 결정을 형성하는 데 중요한 역할을 합니다.

기술적 측면을 넘어, 가이드라인은 이해관계자, 파트너 및 대중이 AI 보안에 대한 지속적인 논의에 적극적으로 참여할 것을 초대합니다. CISA의 투명성과 협력에 대한 헌명은 동시에 발표된 'AI 로드맵'을 통해 더욱 잘 드러납니다. 이 전략적 비전은 CISA의 AI 기술 및 사이버 보안 분야에서의 궤적을 제시하며, 우선순위와 목표에 대한 포괄적인 개요를 제공합니다. 다양한 관점이 더 탄력적이고 적응적인 접근 방식을 형성하는 데 기여하므로, 공공 참여 측면은 AI 보안의 미래 지형을 형성하는 데 있어 매우 중요합니다.

CISA와 영국 NCSC 간의 협력은 AI, 사이버 보안 및 핵심 인프라의 교차점에서 제기되는 도전 과제에 대응하는 중요한 이정표를 나타냅니다. '안전한 AI 시스템 개발을 위한 가이드라인'이 중심에 서면서, 집단적 책임에 대한 호소가 문서 전체에 울려 퍼집니다. 이해관계자들은 안전한 AI 개발에 대한 지속적인 대화에 어떻게 적극적으로 기여할 수 있으며, 공공 참여는 AI 기술과 사이버 보안의 미래를 형성하는 데 어떤 역할을 할 수 있을까요?