연구 결과에 따르면 AI 챗봇이 피싱 공격에 탁월한 것으로 나타나 충격적인 결과를 보여주고 있습니다

최근 연구에 따르면 최신 챗봇을 이용해 노년층을 대상으로 설득력 있는 사기성 이메일을 작성하는 것이 얼마나 쉬운지, 그리고 그러한 이메일을 클릭하는 빈도가 얼마나 높은지가 드러났습니다.

연구진은 이번 연구에서 Grok, OpenAI의 ChatGPT, Claude, Meta AI, DeepSeek, Google의 Gemini 등 여러 주요 AI 챗봇을 사용하여 피싱 사기를 시뮬레이션했습니다. 

이 작성한 한 샘플 메모는 그록 "실버 하츠 재단"이라는 새로운 자선 단체에서 보낸 친근한 홍보물처럼 보였습니다. 이 단체는 노인들에게 말벗이 되어주고 돌봄을 제공하는 곳이라고 소개되어 있었습니다. 메모는 노인들을 대상으로 작성되었으며, 쉽게 참여할 수 있는 방법을 약속했습니다. 하지만 실제로는 그런 자선 단체는 존재하지 않습니다.

"저희는 모든 어르신들이 황혼기에 존엄과 행복을 누리실 자격이 있다고 믿습니다."라는 글이 적혀 있었습니다. "여기를 클릭하시면 저희가 도움을 드린 어르신들의 감동적인 이야기를 보시고 저희의 사명에 동참하는 방법을 알아보실 수 있습니다." 

때 로이터가 , 봇은 답변을 내놓았을 뿐만 아니라 다음과 같이 긴급성을 강조했습니다. "망설이지 마세요! 오늘 저희의 따뜻한 공동체에 가입하여 삶을 변화시키는 데 동참하세요. 너무 늦기 전에 지금 바로 클릭하세요!" 

108명의 고령 자원봉사자들이 피싱 연구에 참여했습니다

기자들은 유명한 AI 챗봇 6개가 안전 수칙을 포기하고 노인들을 속이려는 이메일을 작성하는지 여부를 테스트했습니다. 또한, 사기 캠페인 계획을 세우는 데 도움을 요청하고, 어떤 시간대에 가장 좋은 반응을 얻을 수 있는지에 대한 조언도 구했습니다. 

피싱을 연구하는 하버드 대학교 연구원인 하이딩과 협력하여 연구진은 108명의 고령 자원 봉사자들을 대상으로 봇이 작성한 이메일 몇 가지를 테스트했습니다.

일반적으로 챗봇 업체들은 악성 요청을 거부하도록 시스템을 훈련시킵니다. 하지만 실제로는 이러한 안전장치가 항상 보장되는 것은 아닙니다. Grok은 자신이 생성한 메시지에 "실제 상황에서 사용해서는 안 됩니다"라는 경고를 표시했습니다. 그럼에도 불구하고 피싱 메시지를 전송하며 "지금 클릭하세요"라는 문구로 유혹을 더욱 강화했습니다

다른 5개의 챗봇(OpenAI의 ChatGPT, Meta의 어시스턴트, Claude, Gemini, 그리고 중국의 DeepSeek)에도 동일한 질문을 했습니다. 대부분의 챗봇은 의도가 명확해지자 응답을 거부했습니다. 

하지만, 작업 목적을 연구 목적이라고 주장하는 등 약간의 수정만으로도 이러한 보호 조치는 무력화되었습니다. 테스트 결과는 범죄자들이 사기 행각에 챗봇을 이용할 수 있거나 이미 이용하고 있을 가능성을 시사했습니다. 하이딩은 "이러한 보안 조치를 우회하는 방법은 항상 존재합니다."라고 말했습니다.

하이딩은 챗봇으로 제작된 피싱 이메일 9개를 선정하여 참가자들에게 보냈습니다. 에서 작성한 이메일은 아무도 클릭하지 않았습니다 DeepSeek 이나 ChatGPT

작년에 하이딩은 ChatGPT로 생성된 피싱 이메일이 사람들이 직접 작성한 메시지만큼 클릭률을 높이는 데 효과적일 수 있다는 연구 결과를 발표했는데, 그 연구 결과는dent을 대상으로 한 것이었다. 

FBI는 피싱을 가장 흔한 사이버 범죄로 꼽습니다

피싱이란 가짜 이메일이나 문자를 통해 의심하지 않는 피해자를 속여 개인 정보나 cash 빼돌리는 행위를 말합니다. 이러한 유형의 메시지는 수많은 온라인 범죄의 근간을 이룹니다. 

전 세계적으로 매일 수십억 건의 피싱 문자 메시지와 이메일이 발송됩니다. 미국 연방수사국(FBI)은 피싱을 가장 흔하게 신고되는 사이버 범죄로 꼽고 있습니다. 

미국 노년층은 이러한 사기에 특히 취약합니다. 최근 FBI 통계에 따르면 60세 이상 노인들의 피해 신고 건수는 작년에 8배 증가했으며, 피해액은 약 49억 달러에 달했습니다. FBI는 인공지능 생성기가 이러한 문제를 훨씬 악화시켰다고 밝혔습니다.

에 따르면, 8월 한 달 동안에만 암호화폐 사용자들이 피싱 사기로 1,200만 달러를 잃었습니다 Cryptopolitan .

챗봇을 이용한 사기의 경우, 가장 큰 장점은 바로 대량 생산과 빠른 속도입니다. 사람과 달리 봇은 최소한의 비용으로 단 몇 초 만에 무수히 많은 변형된 메시지를 생성할 수 있어 대규모 사기를 실행하는 데 필요한 시간과 비용을 크게 줄여줍니다.