FBI警告不要使用生成式AI冒充美国高级官员

今天，FBI旧金山分局警告公众注意日益增多的AI生成语音诈骗。据报道，网络犯罪分子利用AI工具进行网络钓鱼攻击和语音克隆诈骗。

FBI在旧金山Moscone中心举行的RSA网络安全大会上警告不要使用语音深度伪造来针对美国官员。据该机构称，该警告旨在提供缓解措施，帮助公众识别和阻止使用语音深度伪造的攻击。

AI正帮助犯罪分子实施网络犯罪

不法分子冒充美国高级官员以针对个人，其中许多是现任或前任政府官员。A 声明 来自FBI的声明警告公众不要假设声称来自美国高级官员的消息是真实的。 

自4月以来，恶意行为者一直利用人工智能冒充美国高级官员，作为针对现任或前任美国高级政府官员的活动的一部分。FBI声明：‘如果您收到声称来自美国高级官员的消息，请勿假设其为真实。’ pic.twitter.com/qNfqDeWopg

— Andrew Curran (@AndrewCurran_) 5月 15日, 2025年

FBI澄清称，恶意行为者使用短信钓鱼（smishing）和语音钓鱼（vishing）技术发送消息和AI生成的语音。冒充高级美国官员的骗子试图与受害者建立良好关系，以获取有价值的个人信息。根据声明，恶意行为者通过社会工程学访问了美国官员的账户。黑客发送伪装成旨在将对话转移到其他消息平台的链接的恶意链接。 

今天的新闻稿紧随2021年FBI私人行业通知 PIN 之后，该通知警告不要 深度伪造，这些手段在外国影响和网络犯罪中被广泛使用。FBI认为最近的攻击日益复杂，因此对美国人民构成真正威胁。

FBI提供打击增强型音频深度伪造的计划 

FBI敦促公众和企业保持警惕，降低AI网络钓鱼和视频或语音克隆的风险。该机构告知公众注意要求提供资金或凭证的紧急消息。它补充说，企业应探索多种技术解决方案，以减少针对员工的网络钓鱼和社会工程学电子邮件的数量。

"随着技术的不断发展，网络犯罪分子的手段也在演变。攻击者利用AI制作极具说服力的语音或视频消息和电子邮件，以针对个人和企业实施欺诈计划。这些复杂的手段可能导致毁灭性的财务损失、声誉损害和敏感数据泄露。"  

—— Robert Tripp，FBI特别行动组长 

The FBI 敦促企业将技术与定期员工教育相结合，以了解网络钓鱼和社会工程学攻击的危险。该机构补充说，使用多因素认证（MFA）解决方案增加了额外的安全层，使网络犯罪分子更难未经授权访问账户和系统。  

2024年4月，美国卫生与公众服务部披露，网络犯罪分子利用AI生成的语音冒充对IT帮助台助手进行社会工程学攻击，以欺骗目标并获取个人身份信息。

LastPass首席执行官Karim Toubba也是同一攻击的受害者。他去年透露，他的一名员工在语音网络钓鱼攻击中成为目标。欧洲刑警组织（Europol）在2022年警告称，网络犯罪集团将很快使用深度伪造来针对首席执行官、制作非自愿色情材料以及篡改证据。 

德勤的一份报告 预测 显示，随着生成式AI帮助欺诈者，美国的欺诈损失到2027年可能达到400亿美元。德勤透露，欺诈损失从2023年预测的123亿美元增加。 

埃森哲对600名银行网络安全高管的调查也显示，80%的受访者认为生成式AI比银行应对能力更快地提高了黑客的能力。