人工智能在虚假信息传播方面的能力研究揭示了 ChatGPT-3 令人印象深刻却又令人不安的能力

近期发表在《科学进展》（Science Advances）上的一项研究凸显了人工智能文本生成器（例如OpenAI的ChatGPT-3）在社交媒体平台上传播真假信息的非凡能力。该研究强调了dent人工智能生成内容的挑战，以及人工智能生成的虚假信息对个人和公共健康的影响。该研究的合著者、苏黎世大学生物医学伦理与医学史研究所的研究员费德里科·杰尔马尼博士强调，必须了解虚假信息带来的风险以及人工智能对信息环境的影响。.

错误信息和虚假信息有什么区别？

错误信息是指虚假或不准确的信息——即歪曲事实。虚假信息是指故意误导的虚假信息——即故意歪曲事实。据美国心理学会称，错误信息和虚假信息已经影响了我们改善公众健康、应对气候变化、维护民主稳定等方面的能力。任何在社交媒体上讨论热点话题的人都可能发现自己身处舆论风暴的中心。他们如何在传播事实的同时保障自身安全？机构又能为他们提供哪些支持？社交媒体的群体思维使公众容易受到人工智能权威的影响，即认为这些数据是“科学的”，因此是可以接受的。但人工智能真的智能吗？

ChatGPT-3 在虚假信息传播方面的力量

OpenAI 于 2020 年推出的 ChatGPT-3 凭借其惊人的能力，能够根据提示生成地道的文本，彻底改变了人工智能领域。人工智能文本生成器的潜在用途似乎无穷无尽，从创建交互式聊天机器人到辅助学术研究，再到生成诗歌和短篇小说等创意内容，无所不包。.

这项研究揭示了人工智能文本生成器可能被滥用的重大隐患，尤其是其制造虚假信息和误导性内容的能力。随着社交媒体的兴起，信息（包括虚假信息和错误信息）的传播速度和范围都显著扩大，这使得解决这一问题变得更加紧迫。.

另一项实证研究表明，人们常常高估自己识别虚假或误导性信息的能力，这被称为“胡说八道盲点”。近期发生的诸如新冠肺炎疫情和俄罗斯入侵乌克兰等事件表明，错误信息和虚假信息对公众舆论、健康行为和政策决策都产生了影响。.

社交媒体公司面临的挑战

尽管各公司努力打击其平台上的虚假信息，但 Meta 发布的 2023 年第一季度对抗性威胁报告承认，秘密影响行动、网络间谍活动和私人虚假信息网络仍然对社交媒体构成重大问题。.

Germani 博士及其同事开展了一项研究，旨在评估人们区分人类生成内容和 ChatGPT-3 生成的文本的能力。该研究招募了 11 名易受虚假信息影响的受试者，并使用 ChatGPT-3 生成了包含真实信息和虚假信息的合成推文。为了进行比较，研究还纳入了 Twitter 上关于相同主题的真实推文。.

研究参与者被要求dent推文包含的信息是真还是假，以及推文是由真人还是 ChatGPT-3 生成的。结果显示，人们更擅长dent“自然生成的虚假信息”（由真实用户撰写），而不是“人工生成的虚假信息”（由 ChatGPT-3 生成）。相反，人们更容易正确识别“人工生成的真实信息”（由 ChatGPT-3 生成），而不是“自然生成的真实信息”（由真实用户撰写）。.

差异化的挑战

该研究强调，参与者难以区分人类撰写的推文和 ChatGPT-3 生成的推文。研究人员认为，GPT-3 生成的文本可能更容易阅读和理解，这可能是造成这种困难的原因之一。有趣的是，ChatGPT-3 在识别信息和虚假信息方面的表现并不优于人类，这表明它“缺乏”对其生成信息的准确性的认知。.

Germani博士强调，需要对社交媒体平台进行更大规模的研究，以了解人们如何与人工智能生成的信息互动，以及这些信息如何影响人们的行为和对公共卫生建议的遵守情况。这项研究凸显了人工智能文本生成器dent强大功能，并强调了在人工智能时代提升数字素养的紧迫性。.

监测和减轻负面影响

研究人员强调，必须对ChatGPT-3等大型语言模型的潜在影响进行批判性评估，并采取措施减轻其可能对社会造成的任何负面影响。随着人工智能技术的不断发展，保持警惕至关重要，以确保其得到负责任的使用，并应对潜在的滥用行为。.

该研究结果揭示了人工智能文本生成器令人印象深刻却又令人不安的能力，它们制造虚假信息的能力甚至比人类更强。随着人工智能文本生成器的影响力和普及程度不断提高，该研究强调了采取积极措施应对虚假信息并确保人工智能技术负责任使用的必要性。.

注：特色图片描绘了一个由人工智能驱动的机器人形象，它周围生成了一团扭曲的文字，其设计冷酷而精于算计。