- ChatGPT와 같은 AI 기반 도구는 사이버 공격자가 설득력 있는 사회공학적 공격을 구사하는 데 악용되어 심각한 우려를 불러일으키고 있습니다.
- AI 기반 사회공학적 공격의 증가는 피싱 시도를 탐지하는 전통적인 방식에 도전하고 있습니다.
- 효과적인 방어 전략에는 AI 인식 교육, 고급 사이버 보안 도구, 그리고 보안에 대한 제로 트러스트 접근법이 포함됩니다.
최근 기술 세계는 오픈AI가 개발한 AI 기반 챗봇인 ChatGPT의 기능으로 떠들썩했습니다. 이 다재다능한 도구는 설득력 있는 문체와 심지어 기능적인 코드를 생성할 수 있는 능력으로 찬사를 받아왔습니다. 그러나 기술이 진화함에 따라 악의적 행위자들의 방법도 진화하며, ChatGPT의 역량은 사이버 공격자에 의해 악용되는 것을 면하지 못합니다.
ChatGPT와 같은 생성형 AI 도구는 양날의 검이 되었습니다. 이러한 도구는 사용자에게 인상적인 기능을 제공하지만, 악의적 행위자들에게는 사회 공학 공격을 포함하여 설득력 있는 서사와 코드를 작성하는 강력한 수단을 제공합니다. 이는 특히 사회 공학 관련 사이버 공격에 있어 이러한 새로운 범주의 도구가 미치는 영향에 대한 우려를 제기합니다.
완벽한 사회 공학의 시대
과거에는 문체가 부자연스럽거나 문법적으로 잘못된 이메일이 피싱 시도의 분명한 징후였습니다. 사이버 보안 인식 교육은 이러한 이상 징후를 식별하여 잠재적 위협을 차단하는 것을 강조했습니다. 그러나 ChatGPT의 등장은 게임을 바꾸었습니다. 이제 영어 실력이 제한적인 사람들도 완벽하고 설득력 있는 영어 메시지를 생성할 수 있어, 사회 공학 시도를 감지하는 것이 점점 더 어려워지고 있습니다.
오픈AI는 ChatGPT의 오용을 방지하기 위해 일부 안전 장치를 구현했지만, 이러한 장벽은 특히 사회 공학 목적을 위해 극복 불가능하지 않습니다. 악의적 행위자들은 ChatGPT에게 사기성 이메일을 생성하도록 지시한 다음, 악성 링크나 요청을 첨부하여 보낼 수 있습니다. 이 과정은 매우 효율적이며, 요청에 따라 생성된 샘플 이메일에서 볼 수 있듯이 ChatGPT는 전문가처럼 빠르게 이메일을 생성합니다.
Darktrace의 발견과 AI 기반 사회 공학 공격의 부상
사이버 보안 기업 Darktrace는 ChatGPT와 유사한 도구들로 인해 AI 기반 사회 공학 공격이 급증했다고 보고합니다. 이러한 공격은 더 정교해지고 있으며, 피싱 이메일은 더 길어지고, 구두법이 더 정확해지며, 더 설득력 있게 변하고 있습니다. ChatGPT의 기본 어조는 기업 커뮤니케이션을 반영하여 악성 메시지를 구별하기를 더 어렵게 만듭니다.
범죄자의 학습 곡선
사이버 범죄자들은 빠른 학습자입니다. 보고에 따르면 다크 웹 포럼에서는 ChatGPT를 사회 공학에 악용하는 방법에 대한 논의가 이루어지고 있으며, 지원이 없는 국가의 범죄자들은 제한을 우회하고 그 힘을 활용하는 방법을 찾고 있습니다. ChatGPT는 공격자들이 반복된 콘텐츠를 찾는 스팸 필터를 피하기 위해 많은 고유한 메시지를 생성할 수 있게 합니다. 또한, 탐지를 더 어렵게 만드는 다형성 말웨어 생성을 돕습니다.
ChatGPT가 주로 서면 커뮤니케이션에 중점을 두는 반면, 다른 AI 도구들은 특정 개인을 모방하는 생생한 음성을 생성할 수 있습니다. 이러한 음성 모방 기능은 고위 인물을 설득력 있게 모방하는 전화 통로의 문을 엽니다. 이 두 가지 접근 방식—신뢰할 수 있는 이메일에 이어 음성 통화—은 사회 공학 공격에 속임수의 층을 추가합니다.
구직자와 가짜 ChatGPT 도구 악용
ChatGPT는 이메일 작성에 국한되지 않으며, 대규모로 이력서와 자기소개서를 생성하여 사기성 구직자를 악용할 수 있습니다. 또한, 사기꾼들은 ChatGPT 열풍을 이용하여 오픈AI의 모델을 기반으로 한다고 주장하는 가짜 챗봇 웹사이트를 만듭니다. 이러한 사이트들은 실제로는 돈을 훔치고 개인 데이터를 수집하는 것을 목표로 합니다.
AI 기반 공격으로부터 보호하기
AI 기반 공격이 더 흔해짐에 따라, 조직들은 진화하는 위협 지형에 적응해야 합니다:
1. 피싱 시뮬레이션에 AI 생성 콘텐츠를 포함하여 직원들이 AI 생성 커뮤니케이션 스타일에 익숙해지도록 합니다.
2. ChatGPT와 유사한 도구가 어떻게 악용될 수 있는지 강조하여 생성형 AI 인식 교육을 사이버 보안 프로그램에 통합합니다.
3. 머신 러닝과 자연어 처리를 활용하여 위협을 감지하고 인간 검토를 위해 의심스러운 커뮤니케이션을 플래그하는 AI 기반 사이버 보안 도구를 사용합니다.
4. 생성형 AI가 작성한 이메일을 식별하기 위해 ChatGPT 기반 도구를 활용하여 추가적인 보안 계층을 추가합니다.
5. 이메일, 채팅, 문자의 발신자 진위를 항상 확인합니다.
6. 업계 동료들과 열린 소통을 유지하고 새로운 사기에 대해 정보를 얻습니다.
7. 내부 및 외부 출처에서 위협이 발생할 수 있다고 가정하는 제로 트러스트 접근 방식을 채택합니다.
ChatGPT는 빙산의 일각에 불과하며, 소셜 엔지니어링 공격에서 악용될 잠재력을 지닌 유사한 챗봇들이 곧 등장할 가능성이 높습니다. 이러한 AI 도구는 상당한 이점을 제공하지만, 상당한 위험도 초래합니다. 지속적인 AI 기반 사이버 위협과의 싸움에서 앞서 나가기 위해서는 경계심, 교육, 그리고 고급 사이버 보안 조치가 필수적입니다.
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
글로리 카부루
글로리는 AI 도구와 연구에 능통한 매우 유능한 저널리스트입니다. 그녀는 AI 에 열정을 가지고 있으며 이 주제에 관한 여러 편의 기사를 집필했습니다. 그녀는 인공지능, 머신러닝, 딥러닝 분야의 최신 동향을 항상 파악하고 정기적으로 글을 씁니다.
