亚利桑那州国务卿称AI可能成为虚假信息的放大器

根据亚利桑那州国务卿Adrian Fontes的说法，在即将到来的美国大选之前，人工智能(AI)可能成为虚假信息的“放大器”。Fonte表达了他在 周日NBC《Meet the Press》节目上的担忧。

Fontes的声明是在拜登总统在X（前Twitter）上发帖之后作出的，该帖文称“AI和从事这项技术工作的公司将改变世界， b但首先，它们必须赢得我们的信任。” 总统表示，他致力于尽一切力量促进安全和负责任的创新。他敦促公司与他一起做出这一承诺。

AI虚假信息是放大器

Fontes回忆起了他在海军陆战队的训练经历。他说，在新兵训练营和其他军事训练中，他们必须评估敌人的武器。他说，他们必须尽可能多地针对敌人武器进行训练。

延伸阅读： 微软警告称，即将到来的选举中将出现由人工智能驱动的虚假信息运动

国务卿将人工智能比作武器，并表示人工智能并非武器，而是误导信息和虚假信息的放大器和放大器。 

“我想做的是确保我们的选举官员熟悉这种情况，我们拥有在各县处理和处理这种情况的流程，因为我们的选举是在县级层面进行的。”

阿德里安·丰特斯

“我们还为几位选举官员和媒体进行了桌面推演，以便我们的媒体合作伙伴能够知道如何反应和识别它，”他补充道。

AI并不是唯一的部分；秘书长在提到国内恐怖主义时说，“恐怖主义被定义为为了政治结果而进行的威胁或暴力。这就是我们正在面对的情况。”

“假”乔·拜登电话事件证实了人工智能虚假信息的存在

人工智能对选举的潜在威胁并非新鲜事。今年早些时候，1月，一段模仿美国总统乔·拜登声音的虚假自动语音电话在电视节目和新闻文章中成为热门话题。这段虚假电话经过精心定制，开头说：“真是一堆胡扯”，这是拜登之前使用过的一个词。 

在这一点个性展示之后，电话继续说道：

“只有本周二投票才能让共和党人在再次当选唐纳德·特朗普的进程中得逞。你的投票在11月才有意义，而不是在本周二。”

这显然是试图劝阻选民在那天去投票站投票。两天前，当策划这次电话的政治顾问史蒂文·克雷默被处以600万美元罚款并面临24项刑事指控时，这段自动语音电话再次引发热议。

联邦通信委员会表示，对克雷默的罚款是首例与生成式人工智能相关的犯罪罚款。该委员会还提议对林戈电信处以200万美元的罚款，该公司被指控传输了这些自动语音电话。

虽然林戈电信表示他们没有参与这些电话的制作，但其行为符合行业标准和联邦法规。然而，令人担忧的是，这些电话似乎来自前州民主党主席凯西·沙利文的个人号码。 

据美联社报道，沙利文在周四的一封电子邮件中写道，“试图操纵选举的代价是高昂的。”

虚假信息运动变得更加廉价

人工智能使想要从事诈骗活动的人能够以更低的成本进行诈骗。克雷默拥有一家专门从事拉票项目的公司，他表示，他支付了500美元向选民发送电话，以引起他们对“人工智能问题”的关注。他此前告诉美联社，他支付了150美元给一位魔术师来制作录音。

延伸阅读： 沃伦·巴菲特警告称，人工智能诈骗将成为一个增长型行业

Wired 去年报道，建立AI虚假信息活动的成本仅为400美元。该报道提到一名开发者使用常见的AI工具生成反俄推文和文章，但该项目的目的是突出显示如何廉价且轻松地完成这一行为。

据新闻媒体报道，化名尼娅·鲍的人设计了这次运动，旨在教育人们了解人工智能的危险和虚假信息。鲍在电子邮件中说：

“我不认为这里有银弹，就像网络钓鱼攻击、垃圾邮件或社会工程学没有银弹一样。”

虚假信息研究人员表示，人工智能可能被用来制作高度个性化的运动以推广虚假信息，并运营社交媒体账户。值得注意的是，Facebook和Instagram最近屏蔽了数千个以某种方式与中国共产党的传播机制相关的网络账户。

研究人员表示，虚假账户现在正使用更复杂的方法来运行其虚假信息运动，因为它们现在使用有机方法来增加其影响力并看起来更真实。别忘了传奇投资者沃伦·巴菲特的话，他说人工智能诈骗可能是“有史以来增长最快的行业”。 

诈骗和选举虚假信息之间的联系在于两者都用于误导人们。正如巴菲特所说：“它具有巨大的向善潜力和巨大的向恶潜力，我只是不知道它会如何发展。”

Cryptopolitan 报道 / Aamir Sheikh