캐나다 사이버 보안 수장, 증가하는 AI 기반 해킹 및 허위 정보 경고

캐나다 사이버 보안 센터(CCCS)의 수장인 사미 쿠리(Sami Khoury)는 해커와 선동가들이 인공지능(AI)을 사용하는 것이 우려할 만한 수준이라고 경고했습니다. 쿠리에 따르면, AI는 악성 소프트웨어 제작, 정교한 피싱 이메일 발송, 온라인 허위 정보 확산에 활용되고 있습니다. 이러한 우려스러운 developments는 악의적 행위자들이 사이버 범죄 활동을 추진하기 위해 신기술을 어떻게 활용하고 있는지 보여줍니다.

허위 정보(disinformation)는 권위 있는 기관이 미디어에 배포하는 선동 자료처럼 의도적으로 거짓이며 오도하려는 정보를 말합니다. 오보(misinformation)는 실수로 보고된 사실처럼 정확하지 않음이 의도되지 않은 정보를 의미합니다. 오보는 기자들이 출처를 검증하지 않아 확산됩니다. 허위 정보는 정보를 배포한 권위자가 정보를 조작했을 수 있기 때문에 위험합니다. AI는 “보다 집중적인 방식으로, 악성 코드 및 오보와 허위 정보에서” 사용되고 있는 것으로 보고됩니다.

사이버 감시 기관들의 우려와 보고서

쿠리의 통찰력 있는 주장은 다양한 사이버 감시 그룹들이 공통으로 제기해 온 Growing Concerns와 밀접하게 일치합니다. 이러한 보고서들은 특히 방대한 양의 텍스트 데이터를 활용하여 놀라울 정도로 현실적인 대화와 문서를 생성하는 대규모 언어 모델(LLM)과 관련된 가상의 위험에 대해 경보를 울려 왔습니다. 유로폴(Europol)의 포괄적인 보고서는 오픈AI의 ChatGPT와 같은 LLM이 조직이나 개인을 능숙하게 사칭할 수 있는 잠재력을 명시적으로 지적하며, 잠재적인 사이버 위협의 수위를 높였습니다.

마찬가지로 영국 국가 사이버 보안 센터(NCSC)는 블로그 게시물을 통해 LLM의 잠재적 오용에 대한 타당한 우려를 표명하며, 범죄자들이 이러한 강력한 AI 기반 도구를 활용하여 기존 사이버 공격 능력을 강화함으로써 조직과 개인 모두에게 직면한 위험을 증폭시킬 가능성을 시사했습니다.

실리콘밸리를 휩쓸고 있는 끊임없이 진화하는 기술 혁명 속에서 AI의 어두운 이면이 점차 전면에 부각되고 있으며, 사이버 범죄자들은 자신의 사악한 목적을 위해 그 강력한 기능을 교묘히 이용하고 있습니다. 캐나다 사이버 보안 센터(CCS)의 수장인 사미 쿠리는 AI가 이제 연구자와 혁신가들의 도구를 넘어 사이버 범죄자들이 악의적인 행위를 위해 사용하는 무기가 되었다고 밝히며 경종을 울렸습니다. 

초기 증거들은 AI가 교묘한 피싱 이메일 작성, 혼란을 야기하기 위한 허위 및 오정보 유포, 심지어 정교한 사이버 공격을 위한 악성 코드 생성에서 핵심적인 요소로 부상하면서 우려스러운 그림을 그려냅니다. 이러한 어두운 변모의 함의는 AI 기반 사이버 범죄 영역에서 세계가 직면한 escalating threats(고조되는 위협)에 대한 우려를 자아냅니다.

AI 기반 사이버 공격의 확산

사이버 보안 분야에서 헌신적인 연구자들은 AI가 오정보와 같은 사악한 목적으로 무기로 사용될 수 있는 여러 가지 가능한 시나리오를 밝혀내며 AI의 악의적 응용에 대한 막대한 잠재력을 드러냈습니다. 한때 이론적인 우려로 여겨졌던 것들이 이제 실제 맥락에서 의심스러운 AI 생성 콘텐츠가 나타나면서 불편한 현실로 구체화되었습니다. 

전직 해커의 폭로는 경보를 한층 더 높였습니다. 그는 악성 자료로 훈련된 LLM을 발견했으며, 이를 활용하여 긴급 현금 이체를 요구하는 매우 설득력 있는 이메일을 작성한 사실을 밝혔습니다. 이 AI 생성 메시지가 보여준 정교함은 AI 모델의 진화하는 능력을 강조하며, 이러한 AI 도구들이 디지털 세계에 방출되었을 때의 광범위한 함의에 대해 사이버 보안 전문가들 사이에서 우려를 촉발시켰습니다.

악성 코드 제작을 위한 AI 활용은 아직 비교적 초기 단계이지만, AI 모델이 초고속으로 진화하고 있다는 점을 고려할 때 쿠리의 깊은 우려는 타당합니다. AI 기술의 끊임없는 발전은 야생(공개 환경)에 출시되기 전에 그 악의적 잠재력을 효과적으로 모니터링하고 평가하는 데 상당한 과제를 제기합니다. 

사이버 커뮤니티가 이러한 불확실성과 씨름하는 동안, AI의 악의적 응용의 궤적과 가까운 미래에 사이버 보안에 미칠 심층적인 위협에 대한 질문이 제기됩니다. AI 기술의 급진적인 발전과 함께 AI 기반 사이버 범죄 영역이 계속 진화함에 따라 이러한 과제를 해결하기 위한 시급성은 더욱 커지고 있습니다.

AI 기반 사이버 공격에 대한 긴급한 우려

AI 기반 사이버 공격의 등장은 사이버 보안 전문가들 사이에서 긴급한 우려를 불러일으켰습니다. AI 모델이 빠르게 진화함에 따라 코너에 숨어 있는 알 수 없는 위협에 대한 두려움이 커지고 있습니다. 설득력 있는 피싱 이메일을 작성하고 정교한 오정보를 생성하는 능력은 사이버 방어에 상당한 과제를 제기합니다.

사이버 범죄자들이 악의적 활동에 AI를 활용함에 따라 사이버 보안 환경은 지속적인 AI 군비 경쟁의 전장이 됩니다. 연구자와 사이버 보안 전문가들은 악의적인 AI 개발에 앞서가기, 효과적인 대응책 개발, 그리고 AI 기반 해킹 및 오정보 캠페인의 잠재적 결과로부터 보호하는 과제를 안고 있습니다.