警觉的祖母挫败了 AI 语音克隆骗局

一位圣地亚哥的祖母 narrowly 避免了因模仿她心爱的孙子的 AI 生成语音克隆骗局而损失数千美元。事件发生在 Maureen，一位北县祖母，接到一个匿名号码的电话时，起初误以为是她姐姐隐藏号码打来的。电话另一端的声音听起来像她 distressed 的孙子。

令人信服的 AI 欺骗

来电者声称是他的孙子，并告知 Maureen 他卷入了一起车祸，戴着颈托，正前往警察局。他紧急请求 8,200 美元的保释金。欺骗性的 AI 生成声音如此逼真，以至于 Maureen 毫不犹豫地相信那是她的孙子。一名所谓的律师也加入了通话，通过声称她的孙子在事故中撞了一名外交官，并强调需要在 72 小时内保密，从而增加了骗局的可信度。

担心孙子的安全，Maureen 上当了。她匆忙收集所谓的保释金并冲向银行以获取更多。然而，在交出她辛苦赚来的现金之前，她明智地联系女儿以核实她孙子的状况。令她松了一口气的是，她发现她真正的孙子很安全，正在参加高尔夫锦标赛。这一发现激怒了骗子，他在随后与 Maureen 女儿的通话中发泄了愤怒。

AI驱动的骗局日益增多

冒充骗局，如“祖母骗局”，涉及骗子伪装成受信任的个人，利用虚构的紧急情况诱骗受害者汇款。这种趋势，特别是在老年人中，正在上升，并成为执法部门日益关注的问题。人工智能使语音模仿变得更加容易和具有成本效益，加剧了这一问题。

像 ElevenLabs 和 Stable Diffusion 这样的 AI 工具可以操纵声音和口型动作，使得人们越来越难以辨别真实的音视频记录与伪造内容。根据美国联邦贸易委员会的数据，2022 年，冒充骗局是美国第二常见的骗局，报告案例超过 36,000 起，电话相关事件造成的损失超过 1,100 万美元。

防范 AI 骗局

作为对日益增长的 AI 驱动骗局威胁的回应，Maureen 的家人制定了一种称为“安全词”的保护策略。这个独特的词只有家庭成员知道，并在可疑通话的情况下作为验证措施。关键是通过短信或电子邮件避免分享这个词，而是直接通过电话沟通。

Maureen 强调了骗局造成的情感困扰，并表示希望其他人避免类似的经历。使用安全词和直接电话沟通是应对 AI 驱动的欺骗日益增长挑战的主动方法。

Maureen 祖母险些遭遇 AI 生成语音克隆骗局的故事突显了欺诈者日益复杂的手段。随着 AI 技术的发展，个人和家庭采用保护性措施（如安全词和直接电话沟通）以防范这些欺骗性骗局造成的情感和财务困扰变得至关重要。