微软聊天机器人引发关于选举信息准确性的担忧

作为科技行业的主要参与者，微软一直积极参与解决这些担忧。该公司已采取措施打击虚假信息并提升数字平台的完整性。微软的举措包括开发和部署先进的AI工具与技术，以检测和遏制误导性或虚假信息的传播。

研究揭示微软聊天机器人存在令人震惊的不准确性

欧洲非政府组织算法观察（Algorithm Watch）和AI取证（AI Forensics）进行的一项最新研究揭示了微软聊天机器人（由OpenAI的GPT-4驱动）相关的潜在风险。该研究重点关注了聊天机器人对德国和瑞士选举相关问题的回答。研究结果显示，聊天机器人在回答三分之一的问题时提供了错误答案。

虽然担忧通常集中在恶意行为者故意传播虚假信息上，但研究强调，通用聊天机器人可能对信息生态系统构成同等威胁。AI取证的高级研究员Salvatore Romano指出：“我们的研究表明，恶意行为者并非唯一的虚假信息源头；通用聊天机器人可能对信息生态系统构成同样严重的威胁。”

微软聊天机器人：误导性事实错误的来源

研究中确定的错误范围包括错误的选举日期、过时的候选人信息，以及围绕候选人的完全捏造的争议。值得注意的是，聊天机器人将虚假信息归因于实际上拥有准确信息的知名来源。此外，还发现该AI聊天机器人编造了候选人参与丑闻行为的故事，进一步助长了误导性信息的传播。

在得知研究结果后，微软表示致力于解决提出的问题。然而，一个月后收集的后续样本得出了类似的结果，表明在确保聊天机器人提供信息的准确性方面仍存在持续挑战。微软新闻办公室未就该文章发表评论，但公司发言人告知《华尔街日报》，他们正在努力使其工具为2024年选举做好准备。

对结构性变革的呼吁

AI取证的应用数学主管兼研究员Riccardo Angius挑战了将不准确性仅仅描述为“幻觉”的说法，他表示：“是时候不再将这些错误称为‘幻觉’了。我们的研究揭示了通用大型语言模型和聊天机器人中误导性事实错误更为复杂和结构性的发生情况。”

微软的保证与用户谨慎

虽然微软承认需要解决已确定的问题，但仍敦促用户在审查AI聊天机器人生成的结果时行使“最佳判断”。这家科技巨头强调，它正在持续努力提升其工具在即将到来的2024年选举中的表现。然而，这项研究强调了在面对潜在虚假信息时，用户保持警惕性审查的重要性。

世界进入民主决策的关键时期，生成式AI与选举的交汇引发了重要担忧。作为这一领域的主要参与者，微软聊天机器人因其传播不准确信息的作用而受到审视。研究的发现促使人们重新评估如何将AI技术整合到民主进程中，强调需要持续改进以确保选举相关信息的完整性。