사이버 보안 환경이 진화함에 따라 PwC 보고서에 따르면 기술 및 비즈니스 리더의 70%가 향후 12개월 내에 사이버 방어를 위해 생성형 AI를 도입할 계획이라고 합니다. 이러한 변화는 생성형 AI가 대규모로 설득력 있는 비즈니스 이메일을 생성할 수 있는 능력을 바탕으로 사이버 위협이 점점 더 정교해지고 있기 때문입니다.
사이버 보안에 대한 경각심을 일깨우다
디지털 환경은 끊임없이 진화하고 있으며, 사이버 공격자들의 전술 또한 마찬가지입니다. 기존의 사이버 보안 시스템은 생성형 AI의 역량 증대로 인해 점점 더 큰 도전에 직면하고 있습니다. PwC의 2024년 디지털 신뢰도 보고서에 따르면, 기술 및 비즈니스 리더의 70%가 생성형 AI를 사이버 방어 전략의 핵심 요소로 활용할 것으로 예상하고 있습니다.
이러한 개발은 생성형 AI가 정교한 비즈니스 이메일을 대량으로 생성할 수 있는 능력이 사이버 위협을 증폭시키면서 기존 사이버 보안 방식에 대한 불안감이 커지고 있는 상황을 완화하기 위한 것입니다. 업계 전문가들 사이에서는 생성형 AI가 향후 1년 안에 파괴적인 사이버 공격을 주도할 것으로 예상하는 비율이 52%에 달하는 것으로 나타났습니다.
생성형 인공지능의 이중적 특성
생성형 인공지능은 사이버 방어를 강화할 잠재력을 지니고 있지만, 동시에 사이버 공격자들에게 강력한 무기가 될 수도 있습니다. 공격자들은 이 기술의 역량을 활용하여 매력적인 이메일과 실감나는 딥페이크 콘텐츠(동영상, 녹음, 이미지 등)를 제작하고, 피싱 사기를 통해 의심하지 않는 사람들을 표적으로 삼을 수 있습니다.
SlashNext의 실시간 위협 인텔리전스 보고서에 따르면 사이버 범죄자들이 대규모 언어 모델(LLM) 챗봇을 가장 빈번하게 사용하는 사용자 중 하나입니다. 이러한 악의적인 공격자들은 LLM 챗봇을 이용하여 기업 이메일 침해(BEC) 공격을 계획하고 정교하게 표적화된 피싱 캠페인을 실행합니다. 2022년 말 OpenAI의 ChatGPT가 출시된 이후 악성 피싱 이메일은 무려 1,265%나 증가했습니다.
더욱이, 생성형 AI의 적응성은 악의적인 공격자들이 기존 공격 코드를 쉽게 수정하여 탐지를 피할 수 있을 만큼 미묘하게 다르게 만들 수 있도록 합니다. 생성형 AI의 확산은 다크 웹에서 중요한 관심사로 떠올랐으며, 올해 들어 관련 언급이 급증하고 있습니다.
진화하는 위협과 스스로 진화하는 악성 소프트웨어
생성형 AI를 이용한 사이버 공격에서 가장 우려스러운 측면 중 하나는 스스로 진화하는 악성코드 변종을 만들어낸다는 점입니다. 이러한 변종들은 특정 목표물을 공격하기 위해 맞춤형 변이체를 생성하며, 고유한 기술, 페이로드, 다형성 코드를 활용합니다. 이러한 적응력 덕분에 기존 보안 조치로는 효과적으로 탐지를 회피할 수 있습니다. 이처럼 위험 부담이 큰 사이버 보안 환경에서, 가장 민첩하고 적응력이 뛰어난 운영만이 이러한 진화하는 위협에 맞서 우위를 유지할 수 있을 것입니다.
사이버 방어 강화
생성형 AI 기반 사이버 공격의 위협이 증가함에 따라, 업계 전문가들은 다음과 같은 전략을 강조합니다
1. 전체 AI 파이프라인을 보호합니다
AI 모델 학습 및 미세 조정에 사용되는 데이터를 보호하고 암호화하는 것은 매우 중요합니다. 모델 개발 과정에서 취약점, 악성코드 및 데이터 손상을 지속적으로 검사하는 것은 잠재적 침해에 대한 방어력을 강화하는 데 필수적인 단계로dent집니다.
2. 협력적인 이사회 차원의 논의
사이버 보안, 기술, 데이터 및 운영 분야의 리더들이 이사회 차원의 논의를 위해 한자리에 모여야 합니다. 이러한 논의는 진화하는 위험, 특히 생성형 AI가 어떻게 악용되어 민감한 데이터를 노출시키고 시스템에 대한 무단 접근을 허용할 수 있는지에 초점을 맞춰야 합니다.
3. 혁신적인 탐지 및 방어
기존 보안 제어를 확장하여 AI 시스템을 지원하는 인프라와 데이터를 보호할 수 있지만, 악의적인 AI 공격을 탐지하고 차단하기 위해 특별히 설계된 혁신적인 방법의 필요성을 이해하는 것이 중요합니다. 생성형 AI에서 비롯되는 사이버 위협의 증가에 대응하기 위해서는 선제적인 조치가 필수적입니다.
생성형 AI가 방어자의 자산인 동시에 사이버 공격자의 강력한 무기가 됨에 따라, 조직은 미묘한 균형을 유지해야 합니다. 윤리적이고 책임감 있는 방식으로 이 기술을 수용하는 동시에 사이버 보안 조치를 강화하는 것이 필수적입니다. 인식 제고, AI 파이프라인 보안 강화, 그리고 최첨단 방어 시스템 투자는 진화하는 사이버 보안 환경을 성공적으로 헤쳐나가는 열쇠입니다. 끊임없이 변화하는 디지털 세상에서 이러한 전략은 중요한 데이터를 보호하고 디지털 영역에 대한 신뢰를 유지하는 데 필수적입니다.
