사이버 전쟁에서 AI 무장화가 새로운 정상인가? 마이크로소프트와 오픈AI의 통찰

진화하는 사이버 보안 환경을 조명하는 획기적인 발견에서, 마이크로소프트와 오픈AI는 우려스러운 트렌드를 발견했습니다: 국가들이 사이버 공격에서 AI를 무기로 사용하고 있다는 것입니다. 이 기술 거물들의 협력은 주요 글로벌 파워와 연계된 주요 위협 행위자들이 대규모 언어 모델(LLM)을 활용하는 것을 노출시켰으며, 이는 사이버 보안 영역에서 중요한 developments를 mark합니다.

오픈AI를 사용하는 국가 차원의 APTs

현재 상태와 AI 기반 사이버 위협의 잠재적 미래 영향에 대한 전문가들의 통찰은 사이버 보안 환경의 진화를 조명합니다. 중국, 이란, 북한, 러시아와 연관된 이러한 위협 행위자들은 정보 수집, 피싱 공격, 코드 생성 등 다양한 목적으로 AI를 활용합니다. Fancy Bear, Charcoal Typhoon, Crimson Sandstorm과 같은 저명한 그룹들은 악의적인 활동을 위해 오픈AI 기술을 활용하는 그룹들 중 일부입니다.

러시아 연방 무장군 총참모부 본국관리국(GRU)과의 연관성으로 악명 높은 Fancy Bear(또는 Forest Blizzard)는 스크립팅 작업, 정보 수집, 위성 통신 프로토콜 연구에 LLM을 통합하며, 특히 우크라이나 분쟁과 관련이 있습니다.

중국 국가 행위자인 Charcoal Typhoon과 Salmon Typhoon은 정보 수집, 스크립트 생성, 소셜 엔지니어링 등 AI 기반 활동에서 숙련도를 보여줍니다. 마찬가지로 이란의 Crimson Sandstorm은 기만적인 피싱 자료 개발과 AI 생성 코드 스니펫을 통한 운영 간소화를 위해 오픈AI를 활용합니다.

김정은 정권에 귀속된 Emerald Sleet는 기본 스크립팅 작업과 피싱 콘텐츠 생성에 참여하며, 취약점 연구 및 방위 관련 정보 수집을 위해 LLM도 활용합니다. 이러한 사례들은 국가 차원의 위협 행위자들이 사이버 작전에서 AI를 다양하고 진화하는 방식으로 적용하는 것을 강조합니다.

AI 무장화 – 사이버 보안에서 AI의 영향은 현재 제한적

위협 행위자들이 LLM을 활용함에도 불구하고, 전문가들은 사이버 공격에서 AI의 영향이 제한적이며 주로 기존 능력을 향상시키는 데 그쳐 공격 방법을 혁명적으로 바꾸지는 않는다고 강조합니다. 그러나 AI 기반 공격의 확장성과 적응 가능성에 대한 우려가 있어, 지속적인 경계와 사이버 보안 모범 사례 준수가 요구됩니다.

AppOmni의 수석 AI 엔지니어이자 보안 연구원인 Joseph Thacker는 AI가 공격자에게 이점을 제공하지만 그 변혁적 잠재력이 아직 완전히 실현되지 않았다는 점을 강조합니다. Thacker는 소프트웨어 개발에 능숙한 위협 행위자들이 악성 코드 생성을 가속화하기 위해 LLM을 활용하여 운영 효율성을 높이고 있다고 제안합니다. 그러나 그는 사이버 위협의 근본적인 성격이 크게 변화하지 않았으며, AI는 주로 공격 방법론에서 획기적인 혁신보다는 점진적인 개선을 촉진한다고 강조합니다.

Thacker는 언어 번역 및 코드 변환에서 LLM의 다재다능함에 의해 촉진되어 AI 기반 공격의 규모와 범위가 확대될 잠재력을 강조합니다. 현재 AI 기반 사이버 작전은 새로운 기술을 보여주지 않을 수 있지만, Thacker는 AI 기반 위협 벡터에서 탐지되지 않은 advancements의 가능성을 경고합니다. 따라서 그는 지속적인 모니터링과 진화하는 위협을 완화하기 위한 강력한 방어 조치의 중요성을 강조하며 사이버 보안에 대한 선제적 접근을 옹호합니다.

국가 차원의 사이버 작전에 AI를 통합하는 것은 사이버 보안 이해관계자들에게 도전과 기회를 모두 제공합니다. 현재 관찰 결과는 AI 강화 공격이 아직 잠재력을 충분히 발휘하지 못했음을 시사하지만, 기술의 역동적인 성격은 지속적인 경계와 적응을 요구합니다. 사이버 보안 환경이 진화함에 따라, 조직들은 AI와 사이버 전쟁의 교차점을 효과적으로 탐색하여 emerging threats로부터 어떻게 방어할 수 있을까요?