一项最新调查揭露了一个令人担忧的趋势：人工智能聊天机器人正在散布有关2024年大选的虚假和误导性信息。这项发现来自人工智能民主项目（AI Democracy Projects）和非营利媒体机构Proof News的合作研究。研究结果凸显了加强监管的迫切性，因为人工智能在政治话语中扮演着越来越重要的角色。.
关键时刻的虚假信息
该研究指出，这些人工智能生成的错误信息正值美国总统初选的dent时期。随着越来越多的人转向人工智能获取选举相关信息，错误数据的传播尤其令人担忧。该研究测试了多种人工智能模型，包括OpenAI的ChatGPT-4、Meta的Llama 2、Anthropic的Claude、谷歌的Gemini以及法国公司Mistral的Mixtral。研究发现，这些平台向选民提供了错误的投票地点、非法投票方式和虚假的选民登记截止日期等错误信息。.
一个令人震惊的例子是，Llama 2 声称加州选民可以通过短信投票，而这种方式在美国是非法的。此外，所有测试的人工智能模型都未能正确dent出德克萨斯州投票站禁止佩戴带有竞选标志的服饰，例如“让美国再次伟大”（MAGA）的帽子。这种虚假信息的广泛传播有可能误导选民，并破坏选举进程。.
行业反应和公众关注
人工智能传播虚假信息引发了科技行业和公众的关注。一些科技公司已经承认错误并承诺纠正。例如，Anthropic计划发布其人工智能工具的更新版本，提供准确的选举信息。OpenAI也表示将根据其工具使用方式的不断变化持续改进其方法。然而，Meta公司对调查结果的回应——称其“毫无意义”——引发了争议，也让人质疑科技行业遏制虚假信息的决心。.
公众的担忧也在日益加剧。美联社-NORC公共事务研究中心和芝加哥大学哈里斯公共政策学院的一项调查显示，人们普遍担心人工智能工具会在选举年助长虚假和误导性信息的传播。近期发生的一些dent，例如谷歌的Gemini人工智能生成了不符合历史事实且带有种族歧视色彩的图像，进一步加剧了这种担忧。.
呼吁加强监管和责任
该研究结果凸显了制定法律法规规范人工智能在政治领域应用的迫切性。目前，由于缺乏针对人工智能在政治领域应用的具体法律，科技公司只能依靠自我监管，这导致信息准确性出现重大偏差。在研究报告发布前约两周，科技公司自愿同意采取预防措施，防止其工具生成误导选民了解合法投票程序的逼真内容。然而，近期出现的错误和虚假信息令人质疑这些自愿措施的有效性。.
随着人工智能不断融入日常生活的方方面面，包括政治领域，制定全面且可执行的监管法规的必要性日益凸显。这些法规应旨在确保人工智能生成内容的准确性，尤其是在涉及选举等关键民主进程时。只有通过行业问责制和监管监督相结合的方式，才能恢复并维护公众对人工智能作为信息来源的信任。.
最近一项关于人工智能聊天机器人散布选举谎言的研究，警醒世人，不受监管的人工智能在政治领域可能带来的潜在危险不容忽视。科技公司在努力解决这些问题的同时，政府监管的作用也不容低估。确保选举相关信息的真实性对于维护民主价值观和进程至关重要。.
