AI 강화 멀웨어가 증가하는 위협으로 부상, 영국 NCSC 경고

영국의 국가 사이버 보안 센터(NCSC)는 2025년까지 AI 기반 멀웨어가 중대한 위협이 될 가능성을 경고했습니다. 최근 보고서에서 GCHQ 산하 기관인 NCSC는 고능력 국가 행위자가 현재 보안 필터를 우회하는 멀웨어를 생성하기 위해 AI를 사용할

AI 생성 멀웨어, 머지않아 등장

NCSC 보고서는 AI가 기존 보안 조치를 우회할 수 있는 멀웨어를 생성할 잠재력을 가지고 있지만, 이를 위해 고품질 익스플로잇 데이터가 필요하다고 강조합니다. 해당 기관은 일부 고능력 국가 행위자들이 이러한 목적으로 AI 모델을 효과적으로 훈련하기에 충분한 광범위한 멀웨어 저장소를 보유하고 있을 수 있다고 믿습니다. 가장 진보된 AI 기반 사이버 공격은 2026년 이후에 등장할 것으로 예상되지만, 생성형 AI 도구의 초기 채택자들은 가장 강력한 공격자가 될 가능성이 높습니다.

취약한 디바이스와 데이터 분석에 대한 AI의 영향

NCSC는 AI가 공격자들이 취약한 디바이스를 발견하기 쉽게 만들어, 방어자들이 악용되기 전에 패치를 적용할 수 있는 시간을 줄일 것이라고 예측합니다. 또한 AI는 실시간 데이터 분석을 향상시켜 공격자들이 가치 있는 파일을 신속하게 식별할 수 있게 하며, 이는 방해, 협박, 간첩 활동의 효율성을 높입니다.

보고서는 사이버 작전에서 고급 AI를 활용하기 위해 전문성, 장비, 재정 자원, 그리고 양질의 데이터에 대한 접근이 필수적이라고 지적합니다. 고능력 국가 행위자들이 정교한 사이버 공격에서 AI의 잠재력을 최대한 활용하기 가장 좋은 위치에 있습니다. 그러나 기술과 자원이 제한된 공격자들조차도 향후 4년 동안 AI 발전의 혜택을 받을 것으로 예상됩니다.

사이버 범죄자를 강화하는 AI

스펙트럼 하위 구간에서는 소셜 엔지니어링 공격을 수행하는 사이버 범죄자들이 ChatGPT, Google Bard, Microsoft Copilot과 같은 소비자용 생성형 AI 도구를 활용할 것으로 예상됩니다. 이는 더 설득력 있고 현지화된 피싱 시도로 이어질 수 있습니다. 또한 랜섬웨어 갱단들은 데이터 분석을 위해 AI를 사용하여 가치 있는 데이터를 더 쉽게 식별함으로써 데이터 협박 시도를 더 효과적으로 수행할 수 있습니다.

사이버 보안 실무자들의 과제

NCSC는 향후 2년 동안 AI 기반 사이버 공격의 규모와 영향력이 증가하여 사이버 보안 실무자들이 직면한 도전을 심화시킬 것이라고 예측합니다. 실무자들은 이미 진화하는 위협과 씨름하고 있으며, AI는 위협 환경 형성에 중요한 역할을 할 것으로 예상됩니다.

NCSC는 사이버 위협에서 AI의 발전을 면밀히 모니터링하고 있습니다. 해당 기관의 연례 CYBERUK 컨퍼런스(5월 개최)는 국가 안보에 대한 신기술의 상당한 위협에 초점을 맞출 예정입니다. 사임하는 CEO 린디 캐머런은 AI의 위험을 관리하면서도 책임감 있는 개발을 위해 그 잠재력을 활용해야 할 필요성을 강조했습니다.

AI 보안 위험 대응을 위한 글로벌 노력

NCSC의 경고는 영국에서 열린 제1회 AI 안전 정상회의에 이어 나왔으며, 이 회의는 AI의 위험을 관리하기 위한 글로벌 이니셔티브인 블레츨리 선언(Bletchley Declaration)으로 이어졌습니다. 이 노력의 일환으로 주요 AI 개발자들은 책임감 있는 AI 개발을 보장하기 위해 정부와 코드를 공유하기로 약속했습니다.

AI 테스트 계획은 올바른 방향을 향한 한 걸음이지만, 법적 구속력이 없으며 일부 국가의 지지를 받지 못하고 있습니다. 이는 AI 기반 사이버 공격이라는 증가하는 위협에 대응하는 데 있어 그 효과성에 의문을 제기합니다.

NCSC의 경고는 AI 강화 멀웨어가 머지않아 등장하는 사이버 공간의 진화하는 위협 환경을 강조합니다. 현재 보안 조치를 우회할 잠재력을 가진 AI는 사이버 보안 실무자, 정부, 조직 모두에게 도전을 제기합니다. 세계가 사이버 위협에서의 AI 함의를 고민하는 가운데, emerging threats(신속히 부상하는 위협)에 앞서가기 위해서는 경계와 국제 협력이 필수적입니다.