FBI는 인공지능 생성기를 이용해 미국 고위 관료를 사칭하는 행위에 대해 경고했습니다

오늘 샌프란시스코 FBI 지부는 인공지능(AI)을 이용한 음성 사기가 증가하고 있으니 주의하라고 시민들에게 경고했습니다. 사이버 범죄자들이 피싱 공격과 음성 복제 사기에 AI 도구를 사용하는 것으로 알려졌습니다.

미 연방수사국(FBI)은 샌프란시스코 모스코네 센터에서 열린 RSA 사이버보안 컨퍼런스에서 미국 공무원을 표적으로 삼는 음성 딥페이크 기술에 대해 경고했습니다. FBI에 따르면, 이번 경고는 음성 딥페이크를 이용한 공격을 식별하고 차단하는 데 도움이 되는 예방 조치를 제공하기 위한 것입니다.

AI는 범죄자들이 사이버 범죄를 수행하는 데 도움이 됩니다.

악의적인 해커들이 미국 고위 관료를 사칭하여 개인, 특히 현직 또는 전직 정부 관료들을 표적으로 삼고 있습니다. 성명 을 통해 미국 고위 관료를 사칭하는 메시지를 진짜라고 단정짓지 말라고 경고했습니다. 

지난 4월부터 악의적인 공격자들이 인공지능(AI)을 이용해 미국 고위 관료를 사칭하는 행위를 벌이고 있으며, 이는 현직 또는 전직 미국 고위 정부 관료들을 표적으로 삼는 캠페인의 일환입니다. FBI는 "미국 고위 관료를 사칭하는 메시지를 받더라도 진짜라고 생각하지 마십시오."라고 밝혔습니다. pic.twitter.com/qNfqDeWopg

— 앤드류 커런 (@AndrewCurran_) 2025년 5월 15일

FBI는 악의적인 공격자들이 스미싱과 피싱 기법을 이용해 메시지와 인공지능으로 생성된 음성을 전송했다고 밝혔습니다. 이들은 미국 고위 관리로 위장하여 피해자들과 친밀한 관계를 구축한 후 귀중한 개인 정보를 빼내려 했습니다. FBI 발표에 따르면, 이들은 사회공학적 기법을 통해 미국 관리들의 계정에 접근했습니다. 해커들은 대화를 다른 메시징 플랫폼으로 이동시키도록 설계된 링크로 위장한 악성 링크를 전송했습니다. 

오늘 발표된 보도자료는 (PIN) 을 경고한 딥페이크 기술이. FBI는 최근 공격이 점점 더 정교해지고 있으며, 따라서 미국인들에게 실질적인 위협이 된다고 판단했습니다.

FBI는 향상된 음성 딥페이크에 맞서 싸울 계획을 제시했습니다 

FBI는 일반 시민과 기업들에게 인공지능(AI) 피싱 및 영상·음성 복제와 같은 위험에 대해 경계를 늦추지 말 것을 촉구했습니다. 또한, 금전이나dent정보를 요구하는 긴급 메시지에 주의해야 한다고 당부했습니다. 아울러 기업들은 직원들을 대상으로 하는 피싱 및 소셜 엔지니어링 이메일의 수를 줄이기 위해 다양한 기술적 해결책을 모색해야 한다고 덧붙였습니다.

"기술이 계속 발전함에 따라 사이버 범죄자들의 전술도 진화하고 있습니다. 공격자들은 인공지능(AI)을 활용하여 매우 설득력 있는 음성 또는 영상 메시지와 이메일을 제작하고, 이를 통해 개인과 기업을 대상으로 사기 행각을 벌이고 있습니다. 이러한 정교한 전술은 막대한 금전적 손실, 기업 이미지 손상, 그리고 민감한 데이터 유출로 이어질 수 있습니다."  

- 로버트 트립, FBI 특별수사관 

FBI 는 기업들에게 피싱 및 소셜 엔지니어링 공격의 위험성에 대한 정기적인 직원 교육과 더불어 기술을 활용할 것을 촉구했습니다. 또한, 다단계 인증 솔루션을 사용하면 보안이 강화되어 사이버 범죄자들이 계정과 시스템에 무단으로 접근하기가 더욱 어려워진다고 덧붙였습니다.  

2024년 4월, 미국 보건복지부는 사이버 범죄자들이 인공지능으로 생성된 음성 사칭을 이용한 사회공학적 수법으로 IT 헬프데스크 담당자를 표적으로 삼아 피해자를 속이고 개인dent정보를 탈취했다고 밝혔습니다.

LastPass의 CEO인 카림 투바 역시 같은 공격의 피해자였습니다. 그는 작년에 직원 중 한 명이 보이스 피싱 공격의 표적이 되었다고 밝혔습니다. 유럽연합 경찰기구(유로폴)는 2022년에 사이버 범죄 조직들이 딥페이크 기술을 이용해 CEO를 표적으로 삼고, 동의 없이 음란물을 제작하며, 증거를 조작할 것이라고 경고한 바 있습니다. 

딜로이트 보고서에 따르면 예측했습니다 , 생성형 AI가 사기꾼들을 도우면서 미국 내 사기 피해액이 2027년까지 400억 달러에 달할 수 있다고 

액센츄어가 은행의 사이버 보안 담당 임원 600명을 대상으로 실시한 설문 조사에 따르면dent의 80%가 생성형 AI가 해커의 능력을 은행이 대처할 수 있는 속도보다 더 빠르게 향상시킨다고 생각하는 것으로 나타났습니다.