마이크로소프트와 오픈AI는 급변하는 사이버 보안 환경에 대한 획기적인 연구를 통해 우려스러운 추세를 밝혀냈습니다. 바로 국가 차원의 공격자들이 인공지능(AI)을 무기화하여 사이버 공격을 감행하고 있다는 것입니다. 이 두 거대 기술 기업의 협력으로 주요 글로벌 강대국과 연계된 악의적인 공격자들이 대규모 언어 모델(LLM)을 활용하고 있음이 드러났으며, 이는 사이버 보안 분야에 중대한 변화를 가져왔습니다.
OpenAI를 사용하는 국가 주도 APT 공격
인공지능(AI) 기반 사이버 위협의 현황과 미래 잠재적 영향에 대한 전문가들의 분석은 진화하는 사이버 보안 환경을 조명합니다. 중국, 이란, 북한, 러시아와 연관된 이러한 위협 행위자들은 정보 수집부터 피싱 공격, 악성 코드 생성에 이르기까지 다양한 목적으로 AI를 활용합니다. 팬시 베어(Fancy Bear), 차콜 타이푼(Charcoal Typhoon), 크림슨 샌드스톰(Crimson Sandstorm)과 같은 주요 그룹들은 악의적인 활동에 오픈 AI 기술을 사용하고 있습니다.
포레스트 블리자드(Forest Blizzard)로도 알려진 팬시 베어(Fancy Bear)는 러시아 연방군 총참모부(GRU) 산하 총국과의 연관성으로 악명이 높으며, 작전 시나리오 작성, 정보 수집, 위성 통신 프로토콜 연구 등 우크라이나 분쟁과 관련된 다양한 활동에 LLM(Low-Level Modules)을 활용하고 있습니다.
중국 정부 산하 해킹 조직인 Charcoal Typhoon과 Salmon Typhoon은 정보 수집, 스크립트 생성, 사회 공학적 기법 활용 등 AI 기반 활동에 능숙함을 보여줍니다. 마찬가지로 이란의 Crimson Sandstorm은 OpenAI를 활용하여 기만적인 피싱 자료를 개발하고 AI로 생성된 코드 조각을 통해 운영을 효율화합니다.
김정은 정권 소행으로 추정되는 에메랄드 슬리트는 기본적인 스크립팅 작업과 피싱 콘텐츠 생성을 수행하는 한편, LLM(Learning Leadership Model)을 활용하여 취약점을 조사하고 국방 관련 정보를 수집합니다. 이러한 사례들은 국가 차원의 위협 행위자들이 사이버 작전에 인공지능을 다양하고 진화된 방식으로 활용하고 있음을 보여줍니다.
인공지능의 무기화 – 사이버 보안에 대한 인공지능의 영향은 현재로서는 제한적이다
위협 행위자들이 LLM(로컬 라이프사이클)을 활용하고 있음에도 불구하고, 전문가들은 사이버 공격에서 AI의 영향력은 제한적이며, 공격 방식을 혁신하기보다는 기존 역량을 강화하는 데 주로 사용된다고 강조합니다. 그러나 AI 기반 공격의 확장성과 적응성에 대한 우려가 제기되고 있으며, 이에 따라 지속적인 경계와 사이버 보안 모범 사례 준수의 필요성이 대두되고 있습니다.
AppOmni의 수석 AI 엔지니어이자 보안 연구원인 조셉 태커는 AI가 공격자에게 이점을 제공하지만, 그 변혁적인 잠재력은 아직 완전히 실현되지 않았다고 강조합니다. 태커는 소프트웨어 개발에 능숙한 위협 행위자들이 LLM(Learning Logging Methods)을 활용하여 악성 코드 생성을 가속화하고 운영 효율성을 높이고 있다고 지적합니다. 그러나 그는 사이버 위협의 근본적인 성격은 크게 변하지 않았으며, AI는 공격 방법론의 획기적인 혁신보다는 점진적인 개선을 가능하게 하는 데 그치고 있다고 강조합니다.
태커는 언어 번역 및 코드 변환 분야에서 LLM(언어 관리 도구)의 다재다능함을 활용하여 AI 기반 공격이 규모와 범위 면에서 확산될 가능성을 강조합니다. 현재 AI 기반 사이버 공격은 새로운 기법을 보여주지 않을 수 있지만, 태커는 AI 기반 위협 벡터가 탐지되지 않은 채 발전할 가능성을 경고합니다. 따라서 그는 진화하는 위협을 완화하기 위해 지속적인 모니터링과 강력한 방어 조치의 중요성을 강조하며 사이버 보안에 대한 선제적 접근 방식을 옹호합니다.
국가 차원의 사이버 작전 따라 사이버 보안 이해관계자들은 도전과 기회를 동시에 맞이하고 있습니다. 현재까지의 관찰 결과에 따르면 AI 기반 공격은 아직 잠재력을 완전히 발휘하지 못하고 있지만, 기술의 역동적인 특성상 지속적인 경계와 적응이 요구됩니다. 사이버 보안 환경이 진화함에 따라, 조직은 AI와 사이버 전쟁의 교차점에서 어떻게 효과적으로 대응하여 새로운 위협으로부터 스스로를 보호할 수 있을지에 대한 의문이 제기되고 있습니다.
