MrBeast揭露深度伪造骗局：10,000 iPhone 15 Pros在TikTok上

知名YouTuber和慈善家MrBeast最近就TikTok允许深度伪造视频在其平台上流传一事，与字节跳动有限公司（ByteDance Ltd.）进行了交涉。该视频展示了一段由AI生成的MrBeast模仿视频，宣布以每部仅2美元的价格赠送10,000部iPhone 15 Pro。这一事件凸显了社交媒体平台上AI深度伪造日益增长的担忧，以及其欺骗用户的潜力。在本文中，我们将深入探讨这一争议的细节及其对在线内容真实性的影响。

深度伪造骗局

知名社交媒体平台TikTok投放了一则广告，展示了一段由AI生成的MrBeast深度伪造版本。在视频中，冒充者声称正在组织“世界上最大的iPhone 15赠送活动”，每部iPhone的价格仅为2美元。这一大胆的报价自然引起了广泛关注，尤其是考虑到MrBeast以举办赠送活动和竞赛而闻名。

MrBeast的回应

发现深度伪造视频后，MrBeast在社交媒体上表达了他的担忧。他指出，“很多人收到了关于我的这个深度伪造骗局广告”，并质疑社交媒体平台是否已充分准备好应对AI深度伪造的兴起。他的公开声明为那些在社交媒体上遭受深度伪造冒充受害的名人增添了声音。

揭穿深度伪造

尽管深度伪造广告使用了MrBeast的官方标志和蓝色认证标记，但敏锐的观众仍能察觉到AI操纵的迹象。观察者注意到声音扭曲和 unnatural 的口型动作，这些都是AI生成内容的特征。尽管如此，该视频仍然获得了关注，证明了此类骗局的效力，尤其是在针对辨别能力较弱的用户时。

TikTok的回应

作为对争议的回应，TikTok发言人确认，欺诈性广告在发布后几小时内被迅速删除，负责该深度伪造的相关账户也因违反政策而被下架。TikTok还采取措施打击AI生成内容的泛滥，推出了供创作者标记此类内容的工具，并测试自动标记机制。

名人深度伪造的趋势

MrBeast并不是唯一遭受深度伪造冒充的名人。最近，演员汤姆·汉克斯（Tom Hanks）在Instagram上发表声明，谴责一个推广牙科计划的深度伪造版本。他澄清说，他“与此事毫无关系”。同样，罗宾·威廉姆斯（Robin Williams）的女儿Zelda表示，她对AI重现她父亲声音的行为感到不适，称其为“个人令人不安”和“可怕的弗兰肯斯坦式怪物”。

英国演员斯蒂芬·弗莱（Stephen Fry）也遭受了AI滥用的侵害，他的声音被未经许可用于与《哈利·波特》书籍相关的内容。这些事件凸显了在先进AI技术时代，深度伪造的速度正在加快。

检测深度伪造的挑战

虽然谷歌等科技巨头正在努力开发如SynthID等解决方案来检测AI生成的图像，但处理深度伪造音频和视频仍然是一个复杂的挑战。实时检测AI操纵是一项艰巨的任务，在全面解决方案可用之前还需要时间。在此期间，建议用户保持谨慎，运用常识，并对看似可疑的内容进行事实核查。

MrBeast深度伪造争议作为一个鲜明的提醒，指出了AI深度伪造在社交媒体领域带来的风险。它凸显了TikTok等平台在防止欺骗性内容传播方面保持警惕的必要性。此外，它还强调了加快技术进步以打击AI生成的名人和公众人物冒充行为的紧迫性。在全面解决方案到位之前，在线用户必须保持警惕和批判性，以防止成为此类骗局的受害者。