영국 국가사이버보안센터(NCSC)는 인공지능(AI) 기반 악성 소프트웨어가 2025년까지 심각한 위협이 될 수 있다고 경고했습니다. 영국 정부통신본부(GCHQ) 산하 기관인 NCSC는 최근 보고서에서 고도의 기술력을 보유한 국가 차원의 행위자들이 AI를 이용해 현재의 보안 필터를 우회하는 악성 소프트웨어를 개발할 가능성이 "현실적"이라고 밝혔습니다. 이러한 발전은 취약 기기 탐지부터 데이터 분석, 심지어 사회공학적 공격에 이르기까지 모든 분야에 영향을 미치는 새로운 사이버 위협 시대를 열 수 있습니다.
인공지능으로 생성된 악성 소프트웨어가 곧 등장할 전망입니다.
NCSC 보고서는 AI가 기존 보안 조치를 우회할 수 있는 악성 소프트웨어를 생성할 잠재력을 가지고 있지만, 이를 위해서는 고품질의 학습용 익스플로잇 데이터가 필요하다고 강조합니다. NCSC는 일부 고도의 역량을 갖춘 국가 기관이 이러한 목적에 맞게 AI 모델을 효과적으로 학습시킬 수 있을 만큼 방대한 악성 소프트웨어 저장소를 보유하고 있을 가능성이 있다고 보고 있습니다. 가장 고도화된 AI 기반 사이버 공격은 2026년 이후에 나타날 것으로 예상되지만, 생성형 AI 도구를 조기에 도입하는 주체가 가장 강력한 공격자가 될 가능성이 높습니다.
AI가 취약한 기기와 데이터 분석에 미치는 영향
미국 국가보안센터(NCSC)는 인공지능(AI)이 공격자가 취약한 장치를 더 쉽게 발견할 수 있도록 만들어 방어자가 공격 전에 취약점을 해결할 시간을 줄일 것이라고 예측합니다. 더 나아가 AI는 실시간 데이터 분석을 강화하여 공격자가 가치 있는 파일을 신속하게dent할 수 있도록 함으로써 시스템 파괴, 갈취, 스파이 활동의 효율성을 높일 것입니다.
보고서는 사이버 작전에 첨단 AI를 활용하기 위해서는 전문 지식, 장비, 재정 자원, 그리고 양질의 데이터 접근성이 필수적이라고 지적합니다. 고도의 역량을 갖춘 국가 행위자들이 정교한 사이버 공격에서 AI의 잠재력을 가장 잘 활용할 수 있는 위치에 있습니다. 그러나 기술과 자원이 제한적인 공격자들조차도 향후 4년 동안 AI 발전의 혜택을 볼 것으로 예상됩니다.
AI가 사이버 범죄자들에게 힘을 실어주고 있다
사이버 범죄자들은 소셜 엔지니어링 공격을 통해 ChatGPT, Google Bard, Microsoft Copilot과 같은 일반 소비자용 AI 생성 도구를 활용할 것으로 예상됩니다. 이는 더욱 설득력 있고 지역화된 피싱 시도로 이어질 수 있습니다. 또한, 랜섬웨어 조직은 데이터 분석에 AI를 사용하여 가치 있는 데이터를 더 쉽게dent함으로써 더욱 효과적인 데이터 갈취를 시도할 수 있습니다.
사이버 보안 실무자들이 직면한 과제
미국 국가사이버보안센터(NCSC)는 향후 2년 동안 인공지능(AI) 기반 사이버 공격의 규모와 영향력이 증가하여 사이버 보안 전문가들이 직면한 과제가 더욱 심화될 것으로 예측합니다. 사이버 보안 전문가들은 이미 진화하는 위협에 맞서 싸우고 있으며, AI는 이러한 위협 환경을 형성하는 데 중요한 역할을 할 것으로 예상됩니다.
영국 국가사이버보안센터(NCSC)는 사이버 위협 분야에서 인공지능(AI)의 발전을 면밀히 주시하고 있습니다. 5월에 열리는 NCSC 연례 CYBERUK 컨퍼런스에서는 신기술이 국가 안보에 미치는 상당한 위협에 초점을 맞출 예정입니다. 린디 캐머런 전 CEO는 AI의 잠재력을 책임감 있게 개발하는 동시에 위험성을 관리해야 할 필요성을 강조했습니다.
인공지능 보안 위험 해결을 위한 전 세계적인 노력
영국 국가안전보장센터(NCSC)의 이번 경고는 영국에서 개최된 제1회 AI 안전 정상회의에 이은 것으로, 이 회의에서는 AI 위험 관리를 위한 글로벌 이니셔티브인 블레츨리 선언이 채택되었습니다. 이러한 노력의 일환으로 주요 AI 개발사들은 책임 있는 AI 개발을 보장하기 위해 정부와 코드를 공유하기로 약속했습니다.
인공지능 테스트 계획은 올바른 방향으로 나아가는 한 걸음이지만, 법적 구속력이 없고 일부 국가의 지지를 얻지 못하고 있습니다. 이는 인공지능 기반 사이버 공격의 증가하는 위협에 대응하는 데 있어 해당 계획의 효과성에 대한 의문을 제기합니다.
미국 국가사이버보안센터(NCSC)의 경고는 인공지능(AI) 기반 악성 소프트웨어의 등장으로 사이버 공간의 위협 환경이 진화하고 있음을 강조합니다. 현재의 보안 조치를 우회할 가능성이 있는 AI는 사이버 보안 전문가, 정부, 그리고 여러 조직 모두에게 도전 과제를 제시합니다. 전 세계가 사이버 위협에 있어 AI의 영향에 대처해야 하는 상황에서, 새로운 위협에 앞서 나가기 위해서는 경계 태세를 유지하고 국제적인 협력을 강화하는 것이 필수적입니다.
