研究发现 AI 聊天机器人传播选举虚假信息

最近的一项调查揭示了一个令人不安的趋势：AI 聊天机器人正在传播关于 2024 年选举的虚假和误导性信息。这一发现来自人工智能民主项目（AI Democracy Projects）与非营利媒体组织 Proof News 的联合研究。调查结果凸显了随着 AI 在政治话语中发挥重要作用，加强监管的紧迫性。

关键时刻的虚假信息

该研究指出，这些由人工智能生成的不准确信息正出现在美国总统初选的关键时期。随着越来越多的人转向人工智能获取选举相关信息，错误数据的传播尤其令人担忧。该研究测试了多种人工智能模型，包括OpenAI的ChatGPT-4、Meta的Llama 2、Anthropic的Claude、Google的Gemini以及法国公司Mistral的Mixtral。研究发现，这些平台向选民提供了错误的投票地点、非法的投票方式以及虚假的登记截止日期等误导性信息。

一个令人震惊的例子是，Llama 2声称加州选民可以通过短信投票，而这种方式在美国是非法的。此外，所有被测试的人工智能模型均未正确识别出在德克萨斯州投票站禁止穿着带有竞选标志的服装（如MAGA帽子）的规定。这种广泛传播的虚假信息可能误导选民并破坏选举进程。

行业回应与公众关切

AI 传播虚假信息的行为已引发科技行业和公众的回应。一些科技公司承认了错误，并承诺予以纠正。例如，Anthropic 计划发布其 AI 工具的更新版本，提供准确的选举信息。OpenAI 也表示将根据其工具不断演变的用途持续优化其方法。然而，Meta 将相关发现斥为“毫无意义”的回应引发了争议，让人质疑科技行业遏制虚假信息的决心。

公众的担忧也在加剧。美联社-NORC 公共事务研究中心与芝加哥大学哈里斯公共政策学院的一项调查显示，人们普遍担心 AI 工具将在选举年助长虚假和误导性信息的传播。这一担忧因近期事件而进一步放大，例如谷歌的 Gemini AI 生成了历史上不准确且带有种族歧视色彩的图片。

呼吁加强监管与责任

该研究的结果强调了立即采取立法行动以规范政治领域中人工智能使用的紧迫性。目前，由于缺乏专门管理政治领域人工智能的法律法规，科技公司只能进行自我监管，这种情况已导致信息准确性出现重大疏漏。在该研究报告发布前约两周，科技公司在自愿基础上同意采取预防措施，防止其工具生成误导选民关于合法投票程序的逼真内容。然而，最近的错误和虚假信息对这些自愿措施的有效性提出了质疑。

随着人工智能继续融入日常生活的方方面面，包括政治领域，制定全面且可执行的法规的需求日益凸显。这些法规应旨在确保人工智能生成的内容准确无误，特别是涉及选举等关键民主进程时。只有通过行业问责与监管监督相结合，才能恢复并维持公众对人工智能作为信息来源的信任。

关于人工智能聊天机器人传播选举谎言的最新研究，为政治领域中无监管人工智能的潜在危险敲响了警钟。随着科技公司努力解决这些问题，政府监管的作用不容忽视。确保选举相关信息的完整性对于维护民主价值观和程序至关重要。