青年迎接挑战，用真相对抗深度伪造威胁

世界经济论坛2024年全球风险报告发出了严厉警告，将主要由深度伪造驱动的错误信息和虚假信息确定为未来两年内世界面临的最严重的全球短期风险。

与此一致，魁北克创新委员会在经过与专家和公众数月的磋商后，也认识到局势的严重性。

打击深度伪造面临的挑战

深度伪造利用人工智能和生成式AI创造超现实的伪造内容，其意义超越了技术奇迹，构成了深刻的社会威胁。尽管深度伪造检测工具和立法工作一直在进行中，但在有效打击这一威胁方面仍存在巨大差距。

虽然深度伪造检测工具正在开发中，但它们难以跟上深度伪造算法快速进步的能力。法律体系和政府也在努力在这场数字欺骗的斗争中保持领先。

鉴于这些挑战，显然仅靠技术和立法不足以应对这一迫在眉睫的威胁。

政治虚假信息问题

深度伪造最令人担忧的方面之一是其加剧政治两极分化的潜力。预计未来两年内，各国将有近30亿人参与投票，虚假信息运动威胁要破坏新当选政府的合法性。 

著名人物如巴勒斯坦裔美国超模贝拉·哈迪德（Bella Hadid）的深度伪造视频被操纵以伪造其政治声明，展示了该技术影响公众意见和扭曲政治叙事的能力。深度伪造的恶意使用在诸如格蕾塔·通贝里（Greta Thunberg）倡导“纯素手榴弹”的深度伪造实例中得到了体现。

金融欺诈和色情危害

除了政治操纵外，虚假视频还被用于金融欺诈。值得注意的是，知名YouTuber MrBeast在TikTok上被深度伪造诈骗所冒充，导致金融欺诈。此外，深度伪造色情是一个严重的问题，因为个人的面部被未经同意地叠加到色情内容上。 

泰勒·斯威夫特（Taylor Swift）的色情深度伪造图片在社交媒体上传播等实例，凸显了针对各年龄段个人的AI驱动欺诈和骗局的脆弱性。

政策和科技方法

各国和科技巨头已推出政策和科技手段来打击假新闻。Meta和Google等公司要求政治广告商披露其广告中的AI操纵情况。

此外，研究人员正在开发先进的深度伪造音频检测工具，美国和加拿大也推出了《深度伪造问责法》等立法法案。欧盟也通过《AI责任指令》采取了步骤来解决在线安全和AI监管问题。

与青年的研究

为了有效打击由深度伪造和AI技术助长的虚假信息浪潮，一项由加拿大社会科学和人文研究理事会（SSHRC）和加拿大遗产部资助的研究项目专注于赋予青年数字能动性。 

该研究包括18至24岁的加拿大大学生，他们参加了研讨会、访谈和焦点小组讨论。

通过亲手制作深度伪造的体验，参与者获得了关于该技术及其滥用潜力的宝贵见解。起初他们认为深度伪造是不可控的，但后来他们理解了其严重威胁，并产生了防止其传播的责任感。

青年赋权建议

在持续对抗深度伪造虚假信息的斗争中，近期研究的见解为有效行动提供了宝贵的建议：

教育发挥着关键作用，通过将深度伪造意识融入课程。教导虚假信息的后果使学生能够批判性地评估内容。

鼓励批判性思维至关重要。为青年提供质疑社会规范的空间，并教育他们了解社交媒体政策，有助于培养负责任的在线行为。

技术意识至关重要。教导学生通过揭示创建过程来识别深度伪造，增强了他们发现欺骗性内容的能力。

鼓励积极参与。青年应参与有意义的事业，同时对虚假信息保持警惕，并应指导他们建设性地处理错误信息。

多方面的策略

为了有效遏制深度伪造的蔓延，提出了一种多方面的策略。这包括将深度伪造教育融入课程，培养青年的批判性思维和数字能动性，并鼓励积极参与对抗恶意深度伪造的行动。 

还强调采用跨学科的教育方法，结合技术、心理学、媒体研究和伦理学，以充分理解深度伪造的影响。

对抗深度伪造中的人为因素

这项研究强调了教育和人为因素在对抗深度伪造斗争中的重要作用。仅依赖技术和法律解决方案是不够的。通过为年轻一代和整个社会配备批判性分析和挑战虚假信息所需的技能，我们可以培养一个数字素养高且具有韧性的社会，能够抵御假新闻的操纵力量。

最终，教育个人了解他们在保护我们数字世界完整性方面的角色和能动性至关重要。