CISA, 새로운 AI 안전 조치 발표

사이버보안 및 인프라 보안국(CISA)은 최근 특별 안전 및 보안 이사회 설립을 강조하며 미국 국토안보부(DHS)의 AI 안전 강조와 일치하는 새로운 권고사항을 발표했습니다.

중요 부문 AI 보안에 대한 CISA 지침

방금 발표된 지침은 농업, 의료, 정보기술 등 분야를 아우르는 6개 중요 인프라 부문 소유자 및 운영자를 대상으로 합니다. 이 지침은 책임 있는 AI 기술을 사용하여 AI 시스템을 안전하고 탄력적으로 만드는 최소 필수 요구사항 집합입니다. 이러한 자문 접근 방식은 AI 관련 프로세스의 거버넌스, 위험 평가 및 지속적 관리에 대한 지침을 제공합니다.

운영자는 NIST의 AI 위험 관리 프레임워크를 채택하여 AI 구현과 관련된 영향과 위험을 지속적으로 평가할 수 있습니다. 여기에는 AI 의존성이 어디에 있는지 식별하고 기술이 환경에 미치는 영향을 파악하며 제기된 취약점을 해결하려는 시도가 포함됩니다. 지침은 AI 사용량 인벤토리 작성 및 AI 관련 안전 위험 보고를 위한 특별 절차 수립을 상기시키는 규칙을 권장합니다.

CISA는 CISO들이 AI 공급망의 핵심 경로를 이해하고 보안 격차를 식별하기 위해 AI 시스템을 테스트해야 한다는 점을 인정합니다. 특정 영역을 강조함으로써 인프라 소유자는 설계 결함, 사이버 공격 및 물리적 보안 침해 등 광범위한 AI 관련 위험에 직면합니다.

중요 인프라에서의 AI의 양면적 역할

문서는 AI가 외부 환경의 광범위한 감지, 고객 서비스 자동화, 물리적 보안 개선 및 예측 정확도 향상을 통해 중요 인프라 관리를 혁신할 기회를 제공함을 보여줍니다. 

이러한 혁신은 전반적으로 인프라 시스템을 견고하게 만드는 데 도움이 되지만, 새로운 형태의 공격과 실패에 더 취약하게 만들 가능성도 있습니다.

이러한 지침은 AI 기술을 국가 안보 프레임워크에 통합하는 복잡성을 극복하기 위한 DHS의 더 넓은 이니셔티브의 일부에 불과합니다. AI의 보편성은 두 가지 측면이 있습니다. 이 게임 체인저 기술의 출시와 민감한 중요 시스템 인프라에 대한 위협은 알레한드로 마요르카스 국토안보부 장관이 지적한 바와 같습니다. 위험 그룹은 상황에 매우 민감하게 대응하며 전문가 협력을 통해 숨겨진 위험을 식별하고 완화하기 위한 전략적 이니셔티브를 수행합니다.

DHS의 AI 이니셔티브

DHS는 연초에 AI 전략을 발표하며 DBDS 로드맵을 제시하고 AI 코퍼스(AI Corps)의 출범을 발표했습니다. 이 팀은 2024년까지 50명의 숙련된 전문가로 구성될 예정이며, 기관의 AI 역량을 강화하는 것을 목표로 합니다. 새로운 이사회에는 OpenAI의 샘 알트먼과 알파벳을 대표하는 선다르 피차이 등 기술 분야의 중견 인사들이 참여할 예정입니다.

새로운 AI 지침에서 CISA의 임무는 바이든 행정부의 최근 AI 관련 행정명령에 따른 의무를 이행하는 것뿐만 아니라 사회의 다양한 부문에서 수행될 수 있는 유사한 위험 분석의 첫 번째 모범 사례를 설정하는 것도 포함됩니다. 이를 통해 미국 정부는 오늘날 인공지능과 밀접한 관련이 있는 “중요 인프라 보안 매트릭스”에서의 리더십을 강조합니다.