- 미국 CISA는 AI 제작사에 사후의 고비용 수정을 방지하기 위해 초기부터 보안을 구축할 것을 촉구합니다.
- CISA는 사후 처리가 아닌 설계 단계부터 보안이 확보된 AI 시스템을 만들기 위한 보안 패러다임 전환을 요구합니다.
- CISA의 권고사항에 따르면, AI 간 긴밀한 연결성은 중요하며 작은 변화도 큰 영향을 미칠 수 있습니다.
미국 사이버보안 및 인프라 보안국(CISA)은 인공지능(AI) 시스템의 개발 단계부터 보안을 시스템의 핵심에 통합하는 것이 필수적이라고 강조했습니다. CISA가 주장하는 이러한 예방적 접근 방식은 배포 후 발생할 수 있는 취약점 문제를 방지하는 것을 목표로 하며, 이는 종종 복잡하고 수정 비용이 매우 비싼 상황입니다. 기관의 안전한 AI 설계에 대한 요구는 보안을 사후 고려사항으로 여기기보다 설계 및 개발 단계에 원활하게 통합하려는 CISA의 더 넓은 캠페인과 일치합니다.
핵심에 있는 보안: CISA의 지속적인 미션
CISA는 최근 게시물에서 AI 개발자들에게 “설계 단계부터 보안(secure by design)” 패러다임을 채택할 것을 강력히 촉구하며, AI의 핵심은 본질적으로 소프트웨어의 한 형태라는 원칙을 강화했습니다. 기관은 AI의 근본적으로 소프트웨어 기반이라는 성격을 강조하여 AI에 대한 오해를 풀고, 모든 소프트웨어가 요구하는 것과 동일한 보안 요구사항을 적용하고자 했습니다. 이는 보안을 주변적 추가물이 아닌 내재된 구성 요소로 간주해야 한다는 사이버보안 전문가들의 오랜 글로벌 노력과 공명합니다.
관점의 전환: 외부성에서 헌신으로
CISA의 제인 이스터리(Jen Easterly) 국장은 올해 초 연설에서 기술 산업 내 보안 인식에 대한 변혁적 전환의 필요성을 강조했습니다. 역사적으로 보안은 종종 2차적 지위로 전락했으며, 그 비용은 최종 사용자에게 전가되었습니다. 이스터리는 이러한 접근 방식의 완전한 개선을 촉구하며, 소프트웨어 개발 수명주기에 보안을 내장하는 새로운 헌신을 주장했습니다. 또한 이스터리는 책임 분배의 변화를 제안하며, 소프트웨어 개발자가 더 큰 책임의 일부를 짊어져야 한다고 제안했습니다.
머신러닝의 상호 연결된 과제들
CISA의 블로그 게시물은 머신러닝의 복잡성에 주목하며, 그 코드가 얼마나 밀접하게 얽혀 있는지를 강조합니다. 특히, AI 시스템의 단일 입력을 수정하는 것만으로도 광범위한 결과를 초래할 수 있습니다. 이러한 복잡한 상호 의존성은 2014년 구글 연구진에 의해 발표된 획기적인 논문에서 잘 드러났는데, 그들은 AI 개발의 미해결 기술적 과제들을 '기술적 부채의 높은 이자율 신용카드'에 비유했습니다.
AI를 위한 맞춤형 보안 관행
블로그 게시물은 AI 시스템에 대한 설계 단계의 보안 필요성을 인정하면서도, AI가 제시하는 고유한 과제들도 인식하고 있습니다. CISA는 AI 소프트웨어에도 동일하게 적용될 수 있는 필수적인 섹터 비구속적 보안 관행 목록을 정리했습니다. 이 기관은 특히 위협 행위자들이 비AI 소프트웨어 구성 요소의 알려진 취약점을 악용하는 사례들을 고려할 때, 이러한 지침을 준수하는 중요성을 강조합니다.
AI 보안을 위한 포괄적 접근
CISA는 설계, 개발, 배포, 테스트, 데이터 관리, 시스템 통합, 취약점 및 사고 관리 등 AI 개발의 다양한 측면을 지배하기 위해 확립된 커뮤니티가 기대하는 보안 관행과 정책이 적용되어야 한다고 강조합니다. AI 모델 파일 형식이 처리되는 경우, 신뢰할 수 없는 코드 실행 시도를 차단하기 위해 강력한 조치가 마련되어야 합니다. 또한, 잠재적 위협에 대한 추가적인 보호막으로 메모리 세이프 언어의 사용이 권장됩니다.
AI 엔지니어링의 책임성과 투명성
기술적 보호 조치 외에도 CISA는 AI 엔지니어링 커뮤니티가 책임성과 투명성을 향상시키는 관행을 채택할 것을 촉구합니다. 이는 CVE(공통 취약점 및 노출)와 같은 취약점 식별자를 구현하고 AI 모델 및 그 의존성에 대한 포괄적인 소프트웨어 구성표(SBOM)를 유지하는 것을 포함합니다. 또한 프라이버시 문제도 소홀히 다루지 않으며, 기관은 기본값으로 근본적인 프라이버시 원칙을 준수할 것을 요구합니다.
AI 보안의 전환점
CISA의 AI 설계 단계 보안에 대한 열정적인 호소는 AI 개발 영역에서 중요한 분기점을 의미합니다. 보안이 설계 및 개발의 최전선에 놓이도록 함으로써, 이 기관은 향후 중대한 보안 침해 사고를 예방할 수 있는 패러다임 전환을 옹호합니다. AI 시스템이 점점 더 보편화되는 세상에서 이러한 예방적 입장은 더 안전하고 회복력 있는 디지털 환경을 위한 길을 열 수 있습니다.
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
란다 모세스
란다 모세스는 Cryptopolitan의 편집자이자 기자로, 기술, AI, 로봇공학, 암호화폐, 사기 및 해킹을 담당합니다. 그녀는 2017년부터 암호화폐 분야에서 활동해 왔으며, 포워드 프로토콜, 아마직스, 크립토소니아크에서 역할을 수행했습니다. 란다는 브래드포드 대학교에서 전기전자공학을 전공했습니다.
