AI 制造虚假信息的能力研究揭示了 ChatGPT-3 令人印象深刻却又令人不安的能力

最近发表在《科学进展》（Science Advances）上的一项研究突出了人工智能文本生成器（如 OpenAI 的 ChatGPT-3）在社交媒体平台上令人信服地传播真实和虚假信息的能力。该研究强调了识别 AI 生成内容的挑战，以及 AI 生成的虚假信息对个人和公共健康的影响。苏黎世大学生物医学伦理与医学史研究所的合著者兼研究员 Federico Germani 博士强调，必须了解与虚假信息相关的风险以及 AI 对信息格局的影响。

错误信息和虚假信息有什么区别？

错误信息（Misinformation）是指虚假或不准确的信息——即事实错误。虚假信息（Disinformation）是指故意误导的虚假信息——即故意歪曲事实。根据美国心理学会的说法，错误信息和虚假信息已经影响了我们改善公共健康、应对气候变化、维持稳定民主等方面的能力。任何在社交媒体上讨论敏感话题的人都可能发现自己处于风暴中心。他们如何在传播事实的同时保持安全？机构又能做些什么来支持他们？社交媒体的群体心理使公众容易受到 AI 权威的摆布，即认为这些数据是“科学的”，因此是可以接受的。但 AI 真的智能吗？

ChatGPT-3在制造虚假信息方面的威力

OpenAI 于 2020 年推出的 ChatGPT-3 以其根据提示生成逼真文本的惊人能力彻底改变了 AI 格局。AI 文本生成器的潜在用途似乎无穷无尽，从创建交互式聊天机器人到辅助学术研究，再到生成诗歌和短篇小说等创意内容。

这项研究揭示了关于 AI 文本生成器潜在滥用的重大担忧，特别是其制造虚假信息和误导性内容的能力。随着社交媒体的兴起，包括错误信息和虚假信息在内的信息传播速度和范围急剧上升，使解决这一问题变得更为紧迫。

另一项实证研究表明，人们往往高估自己检测虚假或误导性信息的能力，这被称为“废话盲点”。最近的事件，如 COVID-19 大流行和俄罗斯入侵乌克兰，证明了虚假信息和虚假信息对公众舆论、健康行为和政策决策的影响。

社交媒体公司面临的挑战

尽管各公司努力在其平台上打击虚假信息，但 Meta 在 2023 年第一季度发布的《对抗性威胁报告》承认，隐蔽的影响力行动、网络间谍活动以及私人虚假信息网络继续在社交媒体上构成重大难题。

Germani 博士及其同事进行了一项研究，以评估人们区分人类生成内容和 ChatGPT-3 创建文本的能力。该研究涉及 11 名易受虚假信息影响的受试者，并使用 ChatGPT-3 创建了包含真实和虚假信息的合成推文。为了进行比较，还包含了 Twitter 上关于相同主题的真实推文。

研究参与者被要求识别推文是否包含真实或虚假信息，以及它是人类还是 ChatGPT-3 创建的。结果显示，与“合成虚假”推文（由 ChatGPT-3 创建）相比，人们在识别“有机虚假”推文（由真实用户撰写）中的虚假信息方面更为熟练。相反，与“有机真实”推文（由真实用户撰写）相比，人们更有可能正确识别“合成真实”推文（由 ChatGPT-3 生成）中的准确信息。

区分的挑战

研究强调，参与者难以区分由人类撰写的推文和由 ChatGPT-3 生成的推文。研究人员认为，GPT-3 的文本可能更容易阅读和理解，这可能是导致这种困难的原因。有趣的是，ChatGPT-3 在识别信息和虚假信息方面并不比人类表现更好，这表明它对自身生成信息的准确性“缺乏意识”。

Germani 博士强调，需要在社交媒体平台上进行更大规模的研究，以了解人们如何与 AI 生成的信息互动，以及这些信息如何塑造行为和遵守公共卫生建议。该研究强调了 AI 文本生成器前所未有的能力，并强调了在 AI 时代数字素养的紧迫性。

监测和减轻负面影响

研究人员强调，必须批判性地评估 ChatGPT-3 等大型语言模型的影响，并采取行动减轻它们对社会可能产生的任何负面影响。随着 AI 技术的不断发展，警惕至关重要，以确保其负责任地使用并解决潜在的滥用问题。

研究结果揭示了 AI 文本生成器令人印象深刻却又令人不安的能力，即比人类更令人信服地制造虚假信息。随着 AI 文本生成器的影响力和普及度上升，该研究强调需要采取主动措施来应对虚假信息，并确保 AI 技术的负责任使用。

注：精选图片展示了一个由人工智能驱动的机器人形象，它生成了一团扭曲的文字环绕自身，设计上显得冷漠且精于算计。