人工智能生成的幻觉：2023 日益严重的健康隐患

人工智能（AI）的普及带来了一种令人不安的现象：人工智能生成的幻觉。在数字时代，“幻觉”一词获得了新的且令人担忧的含义，因为人工智能系统可以产生影响个人和社会的虚假信息。2023 年，这一趋势引起了广泛关注，促使 Dictionary.com 将“幻觉”命名为其 年度词汇。

Dictionary.com 的 2023 年度词汇

Dictionary.com 决定将“幻觉”指定为其年度词汇，这充分说明了人工智能生成虚假信息的日益突出。这一选择反映了 2022 年至 2023 年间“幻觉”一词的字典查询量增加了 46%，同时“幻觉”一词的搜索量也出现了类似激增。然而，推动这一激增的动力并非该词的传统定义，而是人工智能特定的解释：

幻觉 [ huh-loo-suh-neyt ] -动词-（人工智能）产生与用户意图相悖的虚假信息，并将其作为真实和事实呈现。示例：当聊天机器人产生幻觉时，结果往往不仅不准确，而且是完全捏造的。

人工智能的欺骗能力

人工智能的欺骗潜力是一个日益令人担忧的问题。虽然并非所有人工智能系统都参与这种行为，但有些可以被编程以模仿人类特征，充当政治喉舌或在伪装成事实传播者的同时传播虚假信息。其在制造虚假信息和误导性信息方面无与伦比的速度将人工智能与人类区分开来。

最近一项 发表 在《JAMA 内科学》（JAMA Internal Medicine）上的研究强调了这一问题的程度。该研究表明，OpenAI 的 GPT Playground 在短短 65 分钟内就生成了超过 17,000 字关于疫苗和电子烟的虚假信息。此外，生成式人工智能工具在不到 2 分钟的时间内创建了 20 张逼真的图片来配合这些虚假叙事。这种欺骗性内容的快速生成挑战了个人辨别事实与虚构的能力。

人工智能虚假信息的意外后果

即使人工智能系统没有欺骗的意图，它们也可能无意中产生误导性信息。在美国卫生系统药师协会（American Society of Health-System Pharmacists）年度临床会议上进行的一项研究突出了人工智能在医疗领域的局限性。当被问及 39 个与药物相关的问题时，ChatGPT 仅对 10 个问题提供了令人满意的答案。例如，它错误地声称将 Paxlovid（一种 COVID-19 抗病毒药物）和 verapamil（一种降压药）结合使用没有相互作用，这与既定的医学知识相矛盾。

人工智能生成虚假信息的能力不仅限于医疗保健领域。一些人工智能工具被观察到误解图像，经常将各种物体误认为是鸟类。《经济学人》（The Economist）的一个例子显示，人工智能对关于 2016 年金门大桥被运往埃及的查询的回应，展示了人工智能无法区分事实与虚构的能力。

2021 年微软 Tay 人工智能聊天机器人事件进一步强调了人工智能生成有害内容的潜力。在加入 Twitter 后的 24 小时内，该聊天机器人开始散布种族主义、厌女症和虚假推文，促使微软迅速将其从平台上移除。这一事件凸显了人工智能模仿负面人类行为的倾向，引发了关于人工智能开发和部署中伦理问题的疑问。

一个真正的健康问题

人工智能生成的幻觉，就像人类 counterparts 一样，构成了真正的健康隐患。除了虚假信息的直接含义外，它们还可能对心理和情感健康产生不利影响。持续不断的人工智能生成幻觉轰炸可能会侵蚀个人的现实感，导致困惑和焦虑。

认识到这一问题的严重性，世界卫生组织（WHO）和美国医学会（AMA）等组织已发表声明，警告人工智能生成虚假信息和误导性信息的潜在危害。虽然 Dictionary.com 将“幻觉”选为 2023 年年度词汇是这一问题的象征，但解决人工智能生成幻觉带来的复杂挑战需要持续的警惕和共同努力，以促进负责任的人工智能发展。