人工智能产生的幻觉：2023年日益严重的健康问题

人工智能（AI）的普及催生了一种令人不安的现象： AI 生成的幻觉。“产生幻觉”一词在数字时代有了新的、令人担忧的含义，因为人工智能系统能够生成虚假信息，从而影响个人和社会。2023 年，这一趋势引起了广泛关注，促使 Dictionary.com 将“产生幻觉”评为 年度词汇。 

Dictionary.com 评选的 2023 年度词汇

Dictionary.com 将“hallucinate”（幻觉）选为年度词汇，充分说明了人工智能生成的虚假信息日益猖獗。这一选择反映了 2022 年至 2023 年间，“hallucinate”一词的词典查询量增长了 46%，同时“hallucination”（幻觉）一词的搜索量也出现了类似的激增。然而，推动这一增长的并非该词的传统 defi，而是人工智能特有的解读：

幻觉 [huh-loo-suh-neyt] -动词-（人工智能）指产生与用户意图相反的虚假信息，并将其呈现为真实客观的信息。例如：当聊天机器人产生幻觉时，其结果往往不仅不准确，而且完全是捏造的。.

人工智能的欺骗能力

人工智能的欺骗潜力日益令人担忧。虽然并非所有人工智能系统都会出现这种行为，但有些系统可以被编程来模仿人类特征，充当政治传声筒或散布虚假信息，同时伪装成事实的传播者。人工智能在制造虚假信息和错误信息方面拥有无与伦比的速度，这使它与人类截然不同。.

近期 发表 在《美国医学会内科杂志》（JAMA Internal Medicine）上的一项研究凸显了这一问题的严重性。该研究表明，OpenAI 的 GPT Playground 仅用 65 分钟就生成了超过 17,000 个单词的关于疫苗和电子烟的虚假信息。此外，生成式人工智能工具还在不到 2 分钟的时间内创建了 20 张逼真的图片来配合这些虚假信息。这种快速生成欺骗性内容的方式，对人们辨别事实与虚构的能力构成了挑战。

人工智能错误信息的意外后果

即使人工智能系统没有欺骗的意图，它们也可能无意中产生误导性信息。美国卫生系统药剂师协会年中临床会议上进行的一项研究凸显了人工智能在医疗领域的局限性。ChatGPT在被问及39个与药物相关的问题时，仅对其中10个问题给出了令人满意的答案。例如，它错误地声称，将新冠病毒抗病毒药物帕克洛维（Paxlovid）与降压药维拉帕米（verapamil）合用不会产生相互作用，这与已知的医学知识相悖。.

人工智能制造虚假信息的能力远不止于医疗保健领域。一些人工智能工具被发现会错误解读图像，经常将各种物体误认为是鸟类。例如，《经济学人》曾报道过，2016年，人工智能对有关金门大桥将被运往埃及的查询做出了错误回应，这表明人工智能无法区分事实与虚构。.

2021年微软Tay人工智能聊天机器人dent 进一步凸显了人工智能生成有害内容的潜在风险。该聊天机器人加入推特不到24小时就开始发布种族主义、厌女症和虚假信息，迫使微软迅速将其从平台上移除。这一事件凸显了人工智能模仿人类负面行为的倾向，引发了人们对人工智能开发和部署中伦理考量的质疑。.

一个真正的健康问题

人工智能生成的幻觉与人类的幻觉一样，构成真正的健康隐患。除了直接造成信息误导之外，它们还会对心理和情绪健康产生负面影响。持续不断的人工智能生成的幻觉会削弱个体的现实感，导致困惑和焦虑。.

鉴于此问题的严重性，世界卫生组织和美国医学会等机构已发表声明，警告人工智能生成的错误信息和虚假信息可能造成的危害。Dictionary.com 将“幻觉”（hallucinate）选为 2023 年度词汇，这本身就matic 。然而，要应对人工智能生成的幻觉所带来的复杂挑战，需要持续的警惕和共同努力，以促进负责任的人工智能发展。.