- 사이버 방어 분야에서의 생성형 AI 도입이 증가하고 있으며, 기술 리더의 70%가 1년 이내에 이를 구현할 계획입니다.
- 생성형 AI의 양면성은 사이버 보안 환경에서 기회와 위협을 모두 제시합니다.
- 진화하는 사이버 위협에 대응하기 위해 조직은 AI 파이프라인을 보호하고, 이사회 수준에서 협력하며, 혁신적인 탐지 및 방어 메커니즘에 투자해야 합니다.
사이버보안 환경이 진화함에 따라 PwC 보고서에 따르면 기술 및 비즈니스 리더의 70%가 향후 12개월 내에 사이버 방어를 위해 생성형 AI를 채택할 계획인 것으로 나타났습니다. 이러한 변화는 생성형 AI의 대규모로 설득력 있는 비즈니스 이메일을 작성할 수 있는 능력에 의해 주도되는 사이버 위협의 증가하는 정교함에 대응하여 이루어집니다.
사이버보안에 대한 경보
디지털 영역은 끊임없이 진화하고 있으며 사이버 공격자의 전술도 진화하고 있습니다. 전통적인 사이버보안 시스템은 생성형 AI의 상승하는 능력으로 인해 주로 증가하는 도전에 직면해 있습니다. PwC의 2024 Digital Trust Insights 보고서에 따르면 기술 및 비즈니스 리더의 70%가 사이버 방어 전략의 핵심 구성 요소로 생성형 AI를 사용할 것으로 예상합니다.
이 발전은 생성형 AI가 대규모로 정교한 비즈니스 이메일을 생성할 수 있는 능력으로 인해 사이버 위협의 위험이 증가함에 따라 전통적인 사이버보안 방법에 대한 증가하는 불안감을 완화하는 것을 목표로 합니다. 업계 전문가들 사이에서는 52%가 향후 1년 내에 생성형 AI가 파괴적인 사이버 공격을 주도할 것으로 예상한다는 지배적인 인식이 있습니다.
생성형 AI의 양면성
생성형 AI는 사이버 방어를 강화할 것을 약속하지만, 사이버 공격자의 무기고에서도 강력한 도구를 제시합니다. 공격자는 피싱_scheme를 통해 무고한 개인을 표적으로 삼기 위해 매력적인 이메일과 비디오, 녹음, 이미지를 포함한 현실적인 딥페이크 콘텐츠를 생성하는 데 이 기술의 능력을 활용할 수 있습니다.
SlashNext의 실시간 위협 인텔리전스 보고서는 사이버 범죄자가 대규모 언어 모델(LLM) 채팅봇의 가장 빈번한 사용자 중 하나임을 강조합니다. 이러한 악의적 행위자들은 LLM 채팅봇을 사용하여 비즈니스 이메일 침해(BEC) 공격을 구성하고 세심하게 표적화된 피싱 캠페인을 실행합니다. 2022년 말 OpenAI의 ChatGPT 출시 이후 악의적인 피싱 이메일이 놀라운 1,265% 증가했습니다.
또한 생성형 AI의 적응력은 악의적 행위자가 기존 공격 코드를 쉽게 수정하여 탐지를 피할 수 있도록 합니다. 생성형 AI의 유행은 다크 웹에서 초점이 되었으며, 언급이 지난 한 해 내내 확산되었습니다.
진화하는 위협과 자기 진화형 악성코드
사이버 공격에서 생성형 AI의 가장 우려되는 측면 중 하나는 자기 진화형 악성코드 균주를 생성하는 것입니다. 이러한 균주는 특정 표적을 공격하도록 맞춤화된 변형을 생성하며, 고유한 기술, 페이로드 및 다형성 코드를 사용합니다. 이러한 적응력은 기존 보안 조치에 의한 탐지를 효과적으로 피합니다. 이러한 높은 스테이크의 사이버보안 무대에서 가장 민첩하고 적응력 있는 운영만 이러한 진화하는 위협에 대해 우위를 유지할 수 있습니다.
사이버 방어 강화
생성형 AI 기반 사이버 공격이 초래하는 증가하는 위협에 대한 방어를 강화하기 위해 업계 전문가들은 다음 전략을 강조합니다:
1. 전체 AI 파이프라인 보안
AI 모델의 훈련 및 파인튜닝에 사용되는 데이터의 보안 및 암호화는 매우 중요합니다. 모델 개발 중 취약점, 악성코드 및 부패에 대한 지속적인 스캔은 잠재적인 침해에 대한 방어를 강화하는 데 중요한 단계로 식별됩니다.
2. 이사회 차원의 협력적 논의
사이버보안, 기술, 데이터 및 운영 분야의 리더들이 이사회 차원의 논의에 함께 모입니다. 이러한 논의는 생성형 AI가 어떻게 민감한 데이터를 노출시키고 시스템에 무단 접근을 허용할 수 있는지 등 진화하는 위험에 초점을 맞춰야 합니다.
3. 혁신적인 탐지 및 방어
기존 보안 제어는 AI 시스템을 지원하는 인프라와 데이터를 보호하기 위해 확장될 수 있지만, 적대적 AI 공격을 탐지하고 중지하기 위해 특별히 설계된 혁신적인 방법의 필요성을 이해하는 것이 중요합니다. 생성형 AI에서 기원하는 사이버 위협의 증가하는 물결을 막기 위해 예방적 조치가 필수적입니다.
생성형 AI가 방어자의 자산이자 사이버 공격자의 강력한 무기가 되면서 조직은 미묘한 균형을 잡아야 합니다. 윤리적이고 책임감 있는 사용을 위해 이 기술을 수용하면서 사이버보안 조치를 강화하는 것이 필수적입니다. 인식, AI 파이프라인 보안 및 최첨단 방어에 대한 투자가 진화하는 사이버보안 환경을 성공적으로 탐색하는 열쇠입니다. 끊임없는 변화로 특징지어지는 디지털 세계에서 이러한 전략은 민감한 데이터를 보호하고 디지털 영역에서의 신뢰를 유지하는 데 필수적입니다.
이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.
면책 조항. 이것은 유료 보도자료입니다. 독자는 홍보된 회사 또는 그 자회사나 서비스와 관련된 어떠한 조치를 취하기 전에 자체적인 실사를 수행해야 합니다. Cryptopolitan.com 보도 자료에 언급된 콘텐츠, 상품 또는 서비스의 사용 또는 신뢰로 인해 발생하거나 발생한 것으로 주장되는 모든 손해 또는 손실에 대해 직접 또는 간접적으로 책임지지 않습니다.
존 팰머
John Murangiri는 시장 분석 기술을 갖춘 채 Cryptopolitan에 합류했습니다. John(별명 JP)은 나이로비 대학교에서 대중 매체 및 미디어 연구 학사 학위를 취득했으며, 이전에는 InsideBitcoins.com과 Metacoingraph에 암호화폐 시장 인사이트를 기여한 바 있습니다.
