英国首相和皇室的 AI 深度伪造视频被用于 Facebook 上的加密货币骗局  

英国首相 Keir Starmer 和威廉王子的 AI 生成视频被用于在 Facebook 和 Instagram 上宣传加密货币骗局。据研究公司 Fenimore Harper 称，自 7 月初 Starmer 在大选中获胜上台以来，已有超过 250 个广告推广了一个名为“Immediate Edge”的平台。

在一份新的 报告 中，Fenimore Harper 表示，Immediate Edge 积极向社交媒体上毫无戒心的用户推送深度伪造广告。报告称，该平台的广告已触达 Facebook 和 Instagram 上的 89 万人。报告指出，截至目前，Immediate Edge 在这些广告上花费了 21,000 英镑（27,000 美元）。该研究机构使用 Meta 的大型语言模型 Llama 3.1. 发现了这些广告。

该加密货币骗局鼓励观众发送资金和个人信息  

Starmer 和威廉王子的深度伪造视频都承诺人们有一个“改变生活的机会”，但前提是必须提供姓名、电话号码和电子邮件等个人数据。该活动将 Immediate Edge 宣传为一个由英国首相和威尔士亲王支持的新平台，人们每天可赚取高达 1,000 英镑。

当用户点击广告链接时，会被引导至一个要求提供个人信息的着陆页。根据报告，加密货币骗子随后会与用户联系，鼓励他们向一个假的在线交易平台存入资金。骗子通常会展示一个带有虚假交易收益的投资组合，以欺骗人们进行更多存款。

Fenimore Harper 详细指出，每当用户要求提取资金时，Immediate Edge 的骗子就会消失。

在一个例子中，Starmer 的深度伪造视频引用了以下言论：

““你的生活即将改变。我是 Keir Starmer，英国首相和工党领袖。我一直在等你。今天是你幸运的一天。我不知道你是如何找到这个页面的，但你不会后悔的。”

这则 AI 制作的广告声称，有 45 人已被选中通过一个神秘项目赚取“改变生活的金钱”。它承诺每天赚取 1,000 英镑，每周 7,000 英镑，每月 27,000 英镑，无需任何先验知识或特殊技能。它还声称“这不是骗局”，Starmer 本人也不需要观众提供任何帮助。

部分广告引用第三方，但声称这是英国首相发起的一项倡议。

在一则广告中，威廉王子的深度伪造视频为该平台背书，表示皇室的支持。广告称：“下午好，尊敬的英国公民。我很高兴宣布，我，威廉王子，以及整个皇室完全支持首相 Keir Starmer 的倡议及其新平台。”

根据 Fenimore Harper 的报告，该广告声称该倡议是必要的，将有助于改善公民的生活，敦促观众加入并为国家创造更美好的未来。

Facebook 和 Instagram 继续与加密货币骗局广告作斗争 

报告称，许多用于加密货币骗局的链接现在已失效，尽管一些深度伪造广告仍在运行。这些广告曾逃过 Facebook 和 Instagram 的反垃圾邮件雷达。Google 也未能标记该加密货币骗局。在 Google 上搜索 Immediate Edge 会告诉用户该平台是合法的交易软件。

Fenimore Harper 的创始人 Marcus Beard 表示，除非采取严厉措施，否则虚假信息将继续存在。

“这些活动现在可以轻松模仿知名人物，并以前所未有的速度在网上散布虚假信息，”他说，正如英国《独立报》报道的那样。“它们对个人、公众人物、企业以及我们的民主构成了巨大风险。”

Meta 和 Google 都表示，他们不赞成在其平台上使用虚假信息和 AI 深度伪造。一位发言人表示，Meta 已下架了大多数涉及 Starmer 和威廉王子的非法广告。Google 解释说，其“反垃圾邮件系统有助于保持 Google 搜索 99% 无垃圾，尽管垃圾邮件发送者不断演变。”