全球担忧：AI 生成的虚假信息和网络攻击成为焦点

在世界经济论坛（WEF）最近发布的《2024 年全球风险报告》中，人工智能（AI）技术的快速演变被确定为两大最重大全球风险的催化剂：AI 生成的虚假信息和网络攻击。报告将“全球风险”定义为可能对全球大部分 GDP、人口或自然资源产生不利影响的 events 或条件。

AI 虚假信息成为焦点

WEF 进行的全球风险感知调查（GRPS）显示，受访者中有显著担忧，53% 的人将 AI 生成的虚假信息确定为 2024 年第二重要的全球风险。个人现在能够轻松创建和传播使用 AI 模型的误导性信息，这令人担忧。报告指出，由于链接到大规模 AI 模型的用户友好界面，AI 生成的虚假信息不再需要专业技能。这种可及性导致了伪造信息和合成内容的惊人激增，包括复杂的语音克隆和假冒网站。

网络攻击在 2024 年全球风险中排名第五，39% 的受访者认为这是一个主要担忧。WEF 强调，网络威胁仍然处于全球风险前景的前沿，在政府和私营部门受访者的前三大担忧中均占有一席之地。网络攻击的普遍性和严重性突显了其在全球舞台上的持久重要性。

AI 模型使虚假信息泛滥

WEF 指出，AI 模型的出现简化了虚假信息的创建和传播，消除了对专业技能的必要需求。报告强调了所谓“合成”内容的兴起，涵盖从语音克隆到假冒网站的一切。WEF 观察到，AI 模型赋予了虚假信息传播者的能力，因此监管措施必须解决在线虚假信息和非法内容的宿主和创作者。

应对日益增长的风险

各国政府正通过引入新的和不断演变的法规来应对与 AI 生成的虚假信息相关的日益增长的风险。这些措施不仅针对创作者，还针对在线虚假信息和非法内容的宿主。除了当前的监管努力外，WEF 预计生成式 AI 的监管将初现端倪，中国对 AI 生成内容加水印的例子可能是一个潜在的解决方案。然而，报告承认，监管的速度和效率不太可能跟上 AI 技术的快速发展。

弥合数字鸿沟

WEF 的报告揭示了技术进步与地缘政治动态融合可能带来的后果。报告建议，如果商业激励和地缘政治需求主导 AI 和其他前沿技术的发展，可能会出现数字鸿沟，在发达经济体和发展中经济体中创造赢家和输家。利益和风险分配的差距可能会使脆弱国家和社区在数字上孤立，阻碍其利用 AI 突破来提高经济生产力、金融、气候、教育、医疗保健和就业创造的能力。

驾驭未来

随着 AI 技术的不断进步，全球社区面临着解决与 AI 生成的虚假信息和网络攻击相关风险的迫切需求。WEF 的《2024 年全球风险报告》强调了主动监管措施和国际合作的重要性，以减轻 AI 在全球范围内的负面影响。在技术创新和负责任治理之间取得平衡，对于驾驭 AI 相关风险的复杂格局并确保各国和社区之间更公平的利益分配至关重要。