全球关注点：人工智能生成的虚假信息和网络攻击成为焦点

世界经济论坛（WEF）在其近期发布的《2024年全球风险报告》中dent，人工智能（AI）技术的快速发展是两大全球性风险的催化剂：人工智能生成的虚假信息和网络攻击。该报告将“全球风险” defi为可能对全球GDP、人口或自然资源造成重大不利影响的事件或情况。.

人工智能虚假信息成为焦点

世界经济论坛开展的《全球风险感知调查》（GRPS）显示，dent普遍担忧人工智能生成的虚假信息，53%的dent认为这是2024年全球第二大风险。如今，人们能够如此轻易地利用人工智能模型创建和传播误导性信息，令人担忧。报告指出，由于用户友好的界面与大规模人工智能模型相连接，人工智能生成的虚假信息不再需要专业技能。这种便捷性导致虚假信息和合成内容的激增，其中包括复杂的语音克隆和伪造网站。.

网络攻击在2024年全球风险预测中位列第五，39%的dent认为网络攻击是主要担忧之一。世界经济论坛强调，网络威胁仍然是全球风险展望中的重中之重，在政府和私营部门dent的担忧中均位列前三。网络攻击的普遍性和严重性凸显了其在全球范围内持续存在的重要性。.

人工智能模型助长了虚假信息的传播。

世界经济论坛指出，人工智能模型的出现简化了虚假信息的制造和传播，使其不再需要专业技能。该报告重点关注所谓“合成”内容的兴起，涵盖从语音克隆到伪造网站等方方面面。世界经济论坛认为，人工智能模型赋予了虚假信息传播者更大的权力，因此，监管措施必须同时针对网络虚假信息和非法内容的托管者和制造者。.

应对日益增长的风险

各国政府正通过出台新的、不断完善的法规来应对人工智能生成虚假信息带来的日益严峻的风险。这些措施不仅针对虚假信息的制造者，也针对网络虚假信息和非法内容的托管者。除了现有的监管措施外，世界经济论坛预计，针对生成式人工智能的监管也将初见成效，中国为人工智能生成的内容添加水印的做法或许可以作为一种解决方案。然而，该报告也承认，监管的速度和效力不太可能跟上人工智能技术的快速发展。.

弥合数字鸿沟

世界经济论坛的报告揭示了技术进步与地缘政治动态融合可能带来的后果。报告指出，如果商业利益和地缘政治因素主导人工智能和其他前沿技术的发展，就可能出现数字鸿沟，导致发达经济体和发展中经济体之间出现赢家和输家。利益和风险分配的不均可能使脆弱的国家和地区在数字时代处于孤立状态，阻碍它们利用人工智能在经济生产力、金融、气候、教育、医疗保健和就业创造等领域取得突破性进展的能力。.

展望未来

随着人工智能技术的不断进步，全球社会迫切需要应对人工智能生成的虚假信息和网络攻击带来的风险。世界经济论坛发布的《2024年全球风险报告》强调了采取积极的监管措施和国际合作对于减轻人工智能在全球范围内的负面影响至关重要。在技术创新和负责任的治理之间取得平衡，对于应对人工智能相关风险的复杂局面，并确保各国和各社区更公平地分配利益至关重要。.