AI 深度伪造威胁尼泊尔即将到来的 5三月⟦/N1⟧选举

在 3 月 5 日该国即将举行的提前选举之前，一部涉及三位尼泊尔著名政治家的假电影揭示了人工智能如何被用作武器。

这段完全由计算机生成的视频描绘了前加德满都市长 Balendra Shah、前电力部门主管 Kulman Ghising 以及 Rastriya Swatantra Party 领导人 Rabi Lamichhane 一起行走。

当这段视频在互联网上病毒式传播时，许多人认为一个新的政治联盟正在形成。然而，由于整个遭遇是计算机生成的，这三位 政治家 从未真正会面。

音频伪造通过社交网络传播 网络

这段假视频只是人工智能制造的内容在选举临近时充斥 尼泊尔数字空间 的一个例子。此次选举在 仅仅 六个月的 后 举行，此前由年轻人领导的暴力示威要求结束腐败。这些抗议活动迫使时任总理 K.P. Sharma Oli 下台，使该国的政治体系陷入动荡。

由于这种信任危机，针对知名人士的数字伪造泛滥。Rastriya Swatantra Party 的副主席 Swarnim Wagle 已向尼泊尔警察网络局提出投诉。一段假音频被制作出来，让人以为他与印度总理进行了对话，而实际上从未发生过。

这些音频伪造在尼泊尔构成了独特的风险，正如 Poynter 的事实核查工作 所证明的那样。语音消息在家庭聊天组和社交媒体中迅速传播，经常到达无法确认其真实性的接收者。用于识别篡改音频的工具的不可靠性意味着普通人区分虚假信息和真相的手段有限。

政府控制问题的尝试往往使情况恶化。由于未能向监管机构注册，Facebook、X 和 YouTube 在 9 月的示威活动期间被当局封锁。

禁令引发了更多的暴力事件，而不是缓解紧张局势。路透社记录了随后混乱中至少 77 人死亡和数千人受伤。官员们最终解除了限制，但这一事件表明，强硬的大规模封锁行不通。虚假信息只是转移到了更难监控的渠道。

尼泊尔选举委员会试图通过政策解决这些挑战。其 2021 年《选举管理中社交媒体使用政策》制定了初步指导方针。针对即将到来的投票的新行为准则草案特别禁止旨在影响选民的虚假信息和虚假账户。

然而，专家警告称，这些规则需要立即更新以适应生成式 AI 时代。问题仍未得到解答：合成媒体究竟构成什么？竞选活动是否应披露使用 AI 辅助创建的内容？当虚假信息传播时，谁应承担责任？

专家呼吁采取协调一致 回应

在没有完美法规的情况下，专家和监测组织正在推动更广泛的解决方案。Poynter 和类似媒体组织建议采取几个步骤：新闻机构和事实核查人员应像调查犯罪一样调查每一个病毒式传播的视频，追溯其来源并展示他们如何验证它。

政党和候选人应承诺不使用深度伪造，并清楚标记任何 AI 创建的材料。社交媒体公司应建立熟悉尼泊尔语言和政治的快速反应团队。普通公民应采取“十秒分诊”方法，在分享令人震惊的声明之前，停下来、检查并确认。

尼泊尔警察网络局 已经准备应对技术方面更先进的攻击。该局官员 SP Ray 表示：“人工智能正在变得更大，并以更多方式使用。很快我们可能会看到 AI 使 更容易 实施的犯罪和网络攻击。”

Ray 还指出，这项技术相对较新可能会提供一些喘息空间。他认为 AI 技术 仍处于起步阶段，公众刚开始采用，因此可能需要更长时间才能将其作为破坏工具使用。

“我们装备精良，能够打击这些犯罪和威胁，我们也应该这样做，”Ray 说。他补充道以提供安慰：“尼泊尔警察可以调查任何行动。唯一需要时间调查的是来自外国 领土 的攻击。”