AI虚假信息威胁在英国AI安全峰会上成为焦点

随着全球科技领袖聚集在布莱切利园参加英国AI安全峰会，AI生成的虚假信息的阴影笼罩着现场。Newsworks和新闻媒体协会（NMA）最近的一项调查揭示了人们对AI对假新闻和虚假信息传播影响的日益担忧。调查结果强调了制定法规和指南以保护可信新闻业并减轻AI带来风险的必要性。

AI虚假信息成为首要担忧

根据Newsworks委托OnePoll进行的调查，67%的受访者将虚假信息和假新闻的传播视为他们对人工智能的主要担忧。这一令人震惊的数据超过了其他担忧，包括对人类创造力和判断力丧失的担忧（63%）以及人类工作可能流失的担忧（61%）。该调查凸显了公众对人工智能系统生成的不可靠信息日益增长的忧虑。

议员和编辑发表意见

第二项调查由YouGov进行，并受NMA委托，受访者包括编辑和国会议员（MP）。调查结果显示，绝大多数议员（总计75%）同意，由新闻出版商生产的可信新闻对于最大限度地减少虚假信息风险至关重要，尤其是在明年可能举行的大选前夕。有趣的是，调查还揭示了党派分歧，85%的工党议员支持这一声明，而保守党议员的支持率为69%。这种分歧凸显了不同政治派别之间担忧程度的差异。

编辑对AI虚假信息表示担忧

担忧的声音不仅限于公众和政治家。参与调查的新闻编辑中，压倒性的97%同意，在明年可能举行的大选前夕，人工智能生成的虚假信息对公众的威胁前所未有。编辑们的这一强烈共识突显了问题的严重性以及采取紧急措施解决该问题的迫切需求。

媒体部长强调可信新闻的重要性

媒体大臣约翰·惠廷代尔爵士（Sir John Whittingdale）强调了在人工智能时代可信新闻的关键作用。他评论道：“在人工智能可以迅速助长假新闻传播的时候，可信新闻比以往任何时候都更加重要。”他还宣布，正在与行业领袖进行持续讨论，以保护新闻业免受人工智能相关风险的影响，同时利用其好处。即将举行的AI安全峰会旨在促进全球合作，负责任地使用这项强大的技术。

公众偏好及识别AI生成内容

调查揭示了公众对AI生成内容的偏好和意识方面的有趣见解。大多数受访者（72%）表示偏好完全由人类创作的内容，反映出对传统新闻业的强烈倾向。令人担忧的是，59%的受访者认为人工智能可能会削弱在线信息来源的可信度和公信力，这凸显了对AI生成内容进行严密监控的必要性。

此外，74%的受访者承认不确定自己是否能准确识别由人工智能生成的内容。这种不确定性突显了区分人类创作和AI生成材料的挑战，增加了问题的复杂性。

呼吁制定指南和法规

令人瞩目的是，86%的受访者认为应该为在线AI生成内容制定指南或法规。这种对监管措施的压倒性支持反映了对不受控制的AI生成虚假信息蔓延的日益担忧。这些指南和法规可以作为防止滥用人工智能技术和侵蚀对数字信息来源信任的 safeguards（保障）。

NMA首席执行官强调可信新闻的重要性

NMA首席执行官欧文·梅雷迪思（Owen Meredith）强调了保护可信新闻免受人工智能技术潜在危害的重要性。他表示：“随着全球领导人在布莱切利公园聚集讨论人工智能的未来，必须确保保护可信新闻免受该技术破坏性影响的重要性不被忽视。”梅雷迪思强调了可信新闻的社会价值，并呼吁政府支持自由且可持续的新闻业。

他还强调了需要强有力的知识产权，以确保对新闻业的持续投资。此外，必须开发工具来保护出版商的内容不被依赖记者作品来训练其系统的人工智能公司剥削。

随着AI安全峰会在布莱切利公园举行，关于AI生成虚假信息的担忧成为焦点。Newsworks和NMA的调查揭示了公众、政治家和新闻编辑中担忧的深度。呼吁制定法规和指南以保护可信新闻免受人工智能潜在危害的声音响亮。峰会为全球科技领袖提供了一个平台，以讨论和合作负责任地使用人工智能技术，确保其造福社会，同时防止虚假信息的传播。在人类和AI生成内容界限模糊的时代，可信新闻的重要性依然至关重要。