AI의 어두운 면: ChatGPT와 생성형 AI 도구가 사이버 공격을 부추기는 방식

최근 기술 업계는 오픈AI가 개발한 AI 기반 챗봇인 ChatGPT의 뛰어난 성능으로 떠들썩했습니다. 이 다재다능한 도구는 설득력 있는 문구를 생성하고 심지어 기능적인 코드까지 만들어내는 능력으로 찬사를 받았습니다. 그러나 기술이 발전함에 따라 악의적인 공격자들의 수법 또한 진화하고 있으며, ChatGPT의 강력한 성능조차 사이버 공격자들의 악용에 취약합니다.

ChatGPT와 같은 생성형 AI 도구는 양날의 검이 되었습니다. 사용자에게 놀라운 기능을 제공하는 동시에, 악의적인 공격자에게는 소셜 엔지니어링 공격을 포함한, 설득력 있는 스토리와 코드를 만들어낼 수 있는 강력한 수단을 제공하기도 합니다. 이는 이러한 새로운 유형의 도구가 사이버 공격, 특히 소셜 엔지니어링 공격에 미치는 영향에 대한 우려를 불러일으킵니다.

완벽한 사회 공학의 시대

과거에는matic으로 틀리거나 표현이 어색한 이메일이 피싱 시도의 주요 징후였습니다. 사이버 보안 교육에서는 잠재적 위협을 차단하기 위해 이러한 이상 징후를 식별하는dent강조했습니다. 그러나 ChatGPT의 등장으로 상황이 완전히 바뀌었습니다. 영어 실력이 부족한 사람조차도 완벽한 영어로 흠잡을 데 없는 설득력 있는 메시지를 작성할 수 있게 되면서, 소셜 엔지니어링 시도를 탐지하는 것이 점점 더 어려워지고 있습니다.

OpenAI는 ChatGPT의 오용을 방지하기 위해 몇 가지 안전장치를 구현했지만, 특히 소셜 엔지니어링 목적의 경우 이러한 장벽을 완전히 극복할 수는 없습니다. 악의적인 공격자는 ChatGPT에 악성 이메일을 생성하도록 지시한 후, 악성 링크나 요청을 첨부하여 해당 이메일을 전송할 수 있습니다. 이 과정은 매우 효율적이며, ChatGPT는 요청에 따라 생성된 샘플 이메일에서 볼 수 있듯이 전문가처럼 신속하게 이메일을 생성합니다.

다크trac의 조사 결과와 AI 기반 사회공학 공격의 증가

사이버 보안 업체 다크trac는 AI 기반 소셜 엔지니어링 공격이 급증하고 있다고 보고하며, 이러한 추세의 원인을 ChatGPT와 유사한 도구들로 지목했습니다. 이러한 공격은 점점 더 정교해지고 있으며, 피싱 이메일은 더욱 길어지고, 문장 부호 사용이 더 자연스러워지고, 더욱 설득력 있게 변하고 있습니다. ChatGPT는 기본적으로 기업 커뮤니케이션과 유사한 어조를 사용하기 때문에 악성 메시지를 구별하기가 더욱 어렵습니다.

범죄 학습 곡선

사이버 범죄자들은 ​​학습 속도가 매우 빠릅니다. 보고서에 따르면 다크 웹 포럼에서는 ChatGPT를 이용한 소셜 엔지니어링 공격에 대한 논의가 활발히 이루어지고 있으며, 지원이 미제공되는 국가의 범죄자들이 제한을 우회하고 ChatGPT의 악용 가능성을 높이는 방법을 찾아내고 있다고 합니다. ChatGPT는 공격자가 여러 개의 고유한 메시지를 생성하여 반복 콘텐츠를 걸러내는 스팸 필터를 회피할 수 있도록 해줍니다. 또한, 다양한 형태의 악성코드를 생성하는 데에도 유용하여 탐지를 더욱 어렵게 만듭니다.

ChatGPT는 주로 서면 커뮤니케이션에 초점을 맞추지만, 다른 AI 도구들은 특정 인물을 모방한 생생한 음성을 생성할 수 있습니다. 이러한 음성 모방 기능은 유명 인사를 그럴듯하게 사칭하는 전화 통화를 가능하게 합니다. 신뢰할 수 있는 이메일과 음성 통화라는 두 가지 단계를 거치는 이러한 접근 방식은 사회 공학적 공격에 기만적인 요소를 더합니다.

구직자를 악용하고 가짜 ChatGPT 도구를 사용하는 행위

ChatGPT는 이메일 작성에만 그치지 않고, 대량으로 자기소개서와 이력서를 생성하여 구직자들을 속이는 사기 행각을 벌일 수 있습니다. 뿐만 아니라, 사기꾼들은 ChatGPT 열풍을 악용하여 OpenAI의 모델을 기반으로 한다고 주장하는 가짜 챗봇 웹사이트를 만들어 금전을 갈취하고 개인 정보를 수집합니다.

AI 기반 공격으로부터 보호하기

인공지능 기반 공격이 더욱 만연해짐에 따라 조직은 이러한 진화하는 위협 환경에 적응해야 합니다

1. AI가 생성한 콘텐츠를 피싱 시뮬레이션에 포함시켜 직원들이 AI가 생성하는 의사소통 방식에 익숙해지도록 합니다.

2. 사이버 보안 프로그램에 생성형 AI 인식 교육을 통합하고, ChatGPT 및 유사 도구가 어떻게 악용될 수 있는지 강조합니다.

3. 머신러닝과 자연어 처리를 활용하여 위협을 탐지하고 의심스러운 통신을 표시하여 사람이 검토하도록 하는 AI 기반 사이버 보안 도구를 활용하십시오.

4. ChatGPT 기반 도구를 활용하여 생성형 AI가 작성한 이메일을dent함으로써 보안을 강화합니다.

5. 이메일, 채팅, 문자 메시지에서 발신자의 진위 여부를 항상 확인하세요.

6. 업계 동료들과 지속적으로 소통하고 새로운 사기 수법에 대한 정보를 파악하십시오.

7. 위협이 내부 및 외부 소스 모두에서 발생할 수 있다는 점을 고려하여 사이버 보안에 대한 제로 트러스트 접근 방식을 채택하십시오.

ChatGPT는 빙산의 일각에 불과하며, 사회공학적 공격에 악용될 가능성이 있는 유사한 챗봇들이 곧 등장할 것으로 예상됩니다. 이러한 AI 도구들은 상당한 이점을 제공하는 동시에 막대한 위험을 내포하고 있습니다. AI 기반 사이버 위협과의 끊임없는 싸움에서 앞서 나가기 위해서는 경계심, 교육, 그리고 고도화된 사이버 보안 조치가 필수적입니다.