利用人工智能技术伪造英国首相和王室成员的影像，在Facebook加密货币诈骗案中牟利  

英国首相克尔·斯塔默和威廉王子的AI生成视频正被用于在Facebook和Instagram上宣传加密货币骗局。据市场研究公司Fenimore Harper称，自7月初斯塔默赢得英国大选以来，已有超过250条推广名为“Immediate Edge”平台的广告上线。.

在一份最新 报告指出，Immediate Edge积极向社交媒体上毫无防备的用户推送深度伪造广告。报告称，该平台的广告已在Facebook和Instagram上触达89万用户。报告还指出，迄今为止，Immediate Edge已在这些广告上花费了2.1万英镑（约合2.7万美元）。该研究公司发现，这些广告使用了Meta公司的大型语言模型 Llama 3.1。

这种加密货币骗局诱使观众发送金钱和个人信息。  

斯塔默和威廉王子的深度伪造视频都向人们承诺提供“改变人生的机会”，但前提是必须提供姓名、电话号码和电子邮件等个人信息。该活动宣传名为“Immediate Edge”的新平台，声称其由英国首相和威尔士亲王支持，用户每天最高可赚取1000英镑。.

当用户点击广告链接后，会被引导至一个要求提供个人信息的页面。据报道，加密货币诈骗分子随后会联系用户，诱骗他们将资金存入一个虚假的在线交易平台。诈骗分子通常会展示一个虚假的投资组合，并声称交易盈利，以此诱骗人们追加存款。.

费尼莫尔·哈珀详细指出，每当有用户要求提现资金时，Immediate Edge 的诈骗分子就会消失得无影无踪。.

例如，一段模仿斯塔默的深度伪造视频引用了他的话：

“你的人生即将改变。我是基尔·斯塔默，英国首相兼工党领袖。我一直在等你。今天是你的幸运日。我不知道你是如何找到这个页面的，但你绝对不会后悔。

这则人工智能制作的广告声称，45人已被选中通过一项神秘项目赚取“足以改变人生的巨额财富”。广告承诺，参与者每天可赚取1000英镑，每周7000英镑，每月27000英镑，而且无需任何专业知识或特殊技能。广告还声称“这不是骗局”，斯塔默本人也无需观众提供任何帮助。.

有些广告使用了第三方素材，却声称这是英国首相的一项举措。.

在一则广告中，威廉王子的深度伪造影像为该平台背书，表达了王室的支持。他说：“尊敬的英国公民们，下午好。我很高兴地宣布，我，威廉王子，以及整个王室都全力支持首相基尔·斯塔默的倡议及其新平台。”

据 Fenimore Harper 的报道，该广告声称这项举措是必要的，将有助于改善公民的生活，并敦促观众加入其中，为国家创造更美好的未来。.

Facebook 和 Instagram 仍在努力应对加密货币诈骗广告。 

报告称，尽管一些深度伪造广告仍在投放，但加密货币中使用的许多链接现在都已失效。这些广告此前已逃过Facebook和Instagram的反垃圾邮件系统。谷歌也未能识别出这种加密货币骗局。用户在谷歌上搜索“Immediate Edge”时，却被告知该平台是一款合法的交易软件。.

芬尼莫尔·哈珀出版社的创始人马库斯·比尔德表示，除非采取严厉措施，否则虚假信息将继续传播。.

“这些网络攻击活动现在可以轻易地冒充知名人士，并以前所未有的速度在网上散布虚假信息dent，他表示： 报道 英国《独立dent 它们对个人、公众人物、企业以及我们的民主制度都构成了巨大风险。”

Meta和谷歌均表示，他们不容忍在其平台上传播虚假信息和使用人工智能深度伪造技术。Meta发言人称，Meta已撤下大部分涉及斯塔默和威廉王子的非法广告。谷歌解释说，尽管垃圾邮件发送者的伎俩不断演变，但其“反垃圾邮件系统仍能帮助Google Search 99保持无垃圾邮件状态”。