FBI, 최고 미국 공무원 사칭을 위한 생성형 AI 사용 경고

오늘 FBI 샌프란시스코 지부는 대중에게 점점 더 AI로 생성된 음성 사기에 주의할 것을 경고했습니다. 사이버 범죄자들은 피싱 공격과 음성 클론 사기에 AI 도구를 사용하는 것으로 보고되었습니다.

FBI는 샌프란시스코 Moscone Centre에서 열린 RSA 사이버 보안 컨퍼런스에서 미국 공무원들을 대상으로 음성 딥페이크를 사용하는 것에 대해 경고했습니다. 해당 기관에 따르면 이 경고는 대중이 음성 딥페이크를 사용한 공격을 식별하고 차단하는 데 도움이 되는 완화 조치를 제공하기 위한 것입니다.

AI는 범죄자들이 사이버 범죄를 수행하는 데 도움을 주고 있습니다

악의적인 행위자들은 현재 또는 전직 정부 공무원 등 많은 개인들을 표적으로 삼기 위해 미국 고위 공무원들을 사칭했습니다. A 성명서에 따르면 FBI는 미국 고위 공무원으로부터 온 메시지가 진위라고 가정하지 않도록 대중을 경고했습니다. 

4 월 이후 악의적 행위자들은 현재 또는 전직 고위 미국 정부 관리들을 대상으로 한 캠페인의 일환으로 AI 를 활용하여 고위 미국 관리들을 사칭해 왔습니다. FBI 성명: '고위 미국 관리로부터 온 메시지라고 주장하는 것을 받더라도 그것이 진정이라고 가정하지 마십시오.' pic.twitter.com/qNfqDeWopg

— Andrew Curran (@AndrewCurran_) 5월 15일, 2025

FBI는 악의적인 행위자들이 smishing(문자 피싱)과 vishing(음성 피싱) 기법을 사용하여 메시지와 AI 생성 음성을 보냈다고 밝혔습니다. 사칭자들은 고위 공무원으로 위장하여 피해자와 좋은 관계를 형성한 후 귀중한 개인 정보를 얻으려 했습니다. 성명에 따르면 악의적인 행위자들은 소셜 엔지니어링을 통해 미국 공무원의 계정에 접근했습니다. 해커들은 다른 메시징 플랫폼으로 대화를 전환하도록 설계된 링크로 위장한 악성 링크를 발송했습니다. 

오늘의 보도 자료는 2021년 FBI의 민간 산업 통지(PIN)에 이은 것입니다 PIN 에 따르면 딥페이크, 이는 외국 영향력과 사이버 범죄에 널리 사용됩니다. FBI는 최근 공격이 점점 더 정교해지고 있으므로 미국인들에게 실제 위협이 된다고 믿고 있습니다.

FBI, 향상된 오디오 딥페이크 퇴치를 위한 계획 제시 

FBI는 대중과 기업들이 경계를 늦추지 않고 AI 피싱 및 비디오 또는 음성 클론의 위험을 줄일 것을 촉구했습니다. 해당 기관은 대중에게 돈이나 자격 증명을 요구하는 긴급 메시지에 주의를 기울일 것을 당부했습니다. 또한 기업들은 직원들을 표적으로 하는 피싱 및 소셜 엔지니어링 이메일의 수를 줄이기 위해 여러 기술 솔루션을 모색해야 한다고 덧붙였습니다.

“기술이 계속 발전함에 따라 사이버 범죄자들의 전술도 진화합니다. 공격자들은 개인과 기업 모두를 대상으로 사기 계획을 실행하기 위해 매우 설득력 있는 음성 또는 비디오 메시지 및 이메일을 작성하기 위해 AI를 활용하고 있습니다. 이러한 정교한 전술은 파탄적인 재정적 손실, 평판 손상 및 민감한 데이터 유출을 초래할 수 있습니다.”  

– Robert Tripp, FBI 특별 수사관 

The FBI 기업들에게 기술과 피싱 및 소셜 엔지니어링 공격의 위험에 대한 정기적인 직원 교육을 결합할 것을 촉구했습니다. 해당 기관은 다중 인증(MFA) 솔루션의 사용이 추가적인 보안 계층을 추가하여 사이버 범죄자들이 계정과 시스템에 무단으로 접근하는 것을 더 어렵게 만든다고 덧붙였습니다.  

2024년 4월, 미국 보건복지부(HHS)는 사이버 범죄자들이 AI 생성 음성 사칭을 사용하여 소셜 엔지니어링으로 IT 헬프데스크 보조원들을 표적으로 삼아 표적들을 속이고 개인 식별 정보를 획득했다고 밝혔습니다.

LastPass CEO Karim Toubba도 같은 공격의 피해자였습니다. 그는 작년 한 직원이 음성 피싱 공격을 당했다고 밝혔습니다. 유로폴(Europol)은 2022년 사이버 그룹들이 곧 CEO들을 표적으로 삼기 위해 딥페이크를 사용할 것이며, 비동의 포르노그래피 자료 생성 및 증거 조작을 할 것이라고 경고했습니다. 

Deloitte의 보고서 예상했습니다. 에 따르면 생성형 AI가 사기꾼들을 돕는 가운데 미국의 사기 손실이 2027년까지 400억 달러에 달할 수 있습니다. Deloitte는 사기 손실이 2023년에 예측된 123억 달러에서 증가했다고 밝혔습니다. 

Accenture의 은행 사이버 보안 임원 600명을 대상으로 한 설문 조사에서도 응답자의 80%가 생성형 AI가 은행들이 대처하는 속도보다 해커들의 능력을 더 빠르게 향상시켰다고 믿는 것으로 나타났습니다.