全球选举中AI驱动虚假信息日益增长的威胁

随着全球选举的进行，它们正面临来自利用强大武器——人工智能——的外国行为者带来的不断演变且 formidable 的威胁。2016年，俄罗斯通过社交媒体针对美国总统选举的虚假信息运动使选举影响领域进入了一个新阶段。在随后的几年里，中国、伊朗等国家效仿，利用社交媒体影响美国及世界各地的选举。随着我们接近2023年和2024年，威胁依然存在，但增加了一个新元素：生成式人工智能和大语言模型，它们有可能放大虚假信息的影响。

AI驱动宣传的力量

生成式AI工具，以ChatGPT和更强大的GPT-4为例，可以快速产生大量文本，并具有各种语气和视角。这使它们非常适合互联网时代的宣传。虽然这些技术对虚假信息运动的确切影响仍不确定，但世界即将见证其影响力。

选举季即将席卷民主世界，许多国家将举行全国选举。这些选举对于此前参与社交媒体影响行动的国家具有极其重要的意义。例如，中国的利益延伸至台湾、印度尼西亚、印度和众多非洲国家，而俄罗斯则密切关注英国、波兰、德国和欧盟。美国仍然是各种行为者的焦点。随着外国影响成本的降低，更多国家可以加入这一领域，特别是像ChatGPT这样的工具使宣传制作变得负担得起。

选举干预与不断变化的格局

在最近一次所有美国网络安全机构代表参加的会议上，讨论集中在对2024年选举干预的预期上。除了俄罗斯、中国和伊朗等熟悉的行为者外，还出现了一个新类别：“国内行为者”。这一转变直接源于AI驱动虚假信息运动相关成本的降低。

超越内容生成的挑战

虽然AI促进了内容创作，但分发仍然是宣传家的关键挑战。虚假账户在发布和放大内容直至其病毒式传播方面发挥着至关重要的作用。Meta等公司已提高了识别和删除此类账户的能力，正如最近对中国影响力行动的打击所证明的那样。然而，虚假信息仍然是一场军备竞赛。随着社交媒体平台的变化，宣传渠道也在适应，往往转向Telegram和WhatsApp等消息平台，使得检测和删除更加困难。由中国人控制的TikTok为AI生成的短视频提供了平台，进一步使格局复杂化。

生成式AI工具实现了新的生产和分发技术，例如大规模的低级宣传。考虑一下社交媒体上由AI驱动的个人账户，它们表现得像正常人一样，发布关于日常生活和兴趣的内容，同时偶尔注入政治内容。这些“人格机器人”个体影响力很小，但当大量部署时，可以产生显著的集体影响。

AI类固醇下的虚假信息

幕后进行选举干预的军事实体，如俄罗斯和中国，可能正在制定超越2016年时代策略的复杂战术。在扩大规模之前，这些国家通常会在较小的国家测试网络攻击和信息行动。尽早识别和记录这些战术对于应对新的虚假信息运动至关重要。

随着AI驱动的虚假信息运动变得更加先进，美国必须主动对其他国家（如台湾，那里的深度伪造音频录音诽谤了政治候选人）产生的AI宣传进行指纹识别和鉴定。如果没有早期的检测和了解，这些运动可能在到达国内之前都不会被注意到。

研究和防御的需求

虽然最近的一些选举在没有重大AI驱动虚假信息问题的情况下顺利进行，但早期的意识和研究对于做好准备至关重要。研究人员必须研究外国运动中使用的技术，以制定有效的防御策略。网络安全社区认识到，分享攻击方法及其有效性对于建立强大的防御系统至关重要。

选举中AI驱动虚假信息的威胁正在增长，需要采取主动和知情的方法。随着我们进入选举干预的新时代，各国必须保持警惕，促进国际合作，并开发能够对抗AI驱动宣传的防御机制。我们越早了解这些不断演变的战术，我们就越好地保护我们民主程序的完整性。