CISA, 새로운 AI 안전 조치 공개

사이버보안 및 인프라 보안국(CISA)은 국토안보부(DHS)가 인공지능(AI) 안전을 강조하는 추세에 발맞춰 새로운 권고안을 발표했습니다. DHS는 최근 AI 안전 및 보안을 위한 특별 위원회를 설립하기도 했습니다.

중요 분야의 AI 보안을 위한 CISA 가이드라인

최근 발표된 가이드라인은 농업, 의료, 정보 기술 등 핵심 기반 시설로 지정된 6개 부문의 소유주와 운영자를 대상으로 합니다. 이 가이드라인은 책임감 있는 AI 기술 사용을 통해 AI 시스템의 보안과 복원력을 강화하기 위한 최소한의 필수 요건을 제시합니다. 가이드라인은 AI 관련 프로세스의 거버넌스, 위험 평가 및 지속적인 관리에 대한 지침을 제공합니다.

운영자는 NIST의 AI 위험 관리 프레임워크를 채택하여 AI 구현과 관련된 영향 및 위험을 지속적으로 평가할 수 있습니다. 여기에는 AI 의존성 위치 파악, 기술이 환경에 미치는 영향dent, 그리고 제기된 취약점 해결 노력이 포함됩니다. 또한, 가이드라인은 AI 사용 현황 조사 및 AI 관련 안전 위험 보고 절차 마련을 권장합니다.

CISA는 CISO가 AI 공급망의 핵심 경로를 파악하고 AI 시스템을 테스트하여 보안 취약점을dent해야 한다는 점을 인정합니다. 특정 영역에 중점을 둠으로써 인프라 소유자는 설계 결함, 사이버 공격, 물리적 보안 침해를 포함한 광범위한 AI 관련 위험에 대응할 수 있습니다.

핵심 기반 시설에서 AI의 이중 역할

이 문서는 인공지능이 외부 환경에 대한 광범위한 감지 기능을 도입하고, 고객 서비스를 자동화하며, 물리적 보안을 강화하고, 예측 정확도를 높임으로써 핵심 인프라 관리를 혁신할 수 있는 기회를 가지고 있음을 보여줍니다. 

이러한 혁신은 전반적인 인프라 시스템을 더욱 견고하게 만드는 데 도움이 될 것이지만, 동시에 새로운 형태의 공격과 장애에 더욱 취약하게 만들 가능성도 있습니다.

이 지침은 인공지능 기술을 국가 안보 체계에 통합하는 데 따르는 복잡성을 극복하기 위한 국토안보부의 광범위한 계획의 한 요소일 뿐입니다. 알레한드로 마요르카스 국토안보부 장관은 인공지능의 확산은 두 가지 측면에서 중요하다고 강조합니다. 하나는 이 혁신적인 기술의 도입이고, 다른 하나는 핵심 시스템을 비롯한 민감한 기반 시설에 대한 위협입니다. 위험 관리팀은 이러한 상황에 신속하게 대응하여 전문가 협력을 통해 숨겨진 위험을dent하고 완화하기 위한 전략적 계획을 수행하고 있습니다.

국토안보부의 AI 이니셔티브

국토안보부(DHS)는 올해 초 인공지능(AI) 전략을 발표하며, DBDS 로드맵을 제시하고 AI 코어(AI Corps) 창설을 공표했습니다. 2024년까지 구성될 이 AI 코어는 기관의 AI 역량을 강화하기 위해 숙련된 전문가 50명으로 구성될 예정입니다. 새 이사회에는 오픈AI의 샘 알트만과 알파벳의 순다르 피차이 등 기술 분야의 거물들이 참여할 것입니다.

새로운 AI 가이드라인에서 CISA의 임무는 바이든 행정부의 최근 AI 관련 행정 명령에 따른 의무를 이행하는 것뿐만 아니라, 사회 각 분야에서 유사한 위험 분석이 이루어질 수 있도록 모범 사례를 제시하는 데에도 있습니다. 이를 통해 미국 정부는 오늘날 인공지능과 밀접한 관련이 있는 "핵심 인프라 보안 매트릭스" 분야에서 선도적인 역할을 강조하고 있습니다.