剑桥词典年度词汇“幻觉”凸显人工智能面临的重大问题

在人工智能（AI）领域，一个显著的变化是剑桥词典将“hallucinate”（幻觉）选为年度词汇。这一选择反映了人工智能领域对该术语理解的重大进展。虽然“hallucinate”传统上与感知到不存在的现象相关，但现在它涵盖了人工智能系统错误地将不准确的数据呈现为事实的情况，有时会导致不良后果。

知名平台上的人工智能不准确之处

像Gizmodo、CNET和微软这样的知名科技平台，都因其人工智能生成的文章存在不实之处而受到审查。这引发了人们对人工智能系统生成内容可靠性的担忧。在一个尤其令人震惊的案例中，一位法律专业人士因为人工智能聊天机器人ChatGPT捏造虚假诉讼作为参考而丢掉了工作。今年早些时候，摩根士丹利的分析师指出ChatGPT有捏造事实的倾向，他们预测这个问题将在未来几年持续存在。这些dent已经引起了商界领袖和虚假信息专家的警觉，他们担心人工智能可能会放大网络虚假信息。

批判性思维的重要性

剑桥词典出版经理温达琳·尼科尔斯强调了在使用人工智能工具时人类批判性思维的关键作用。她指出，人工智能会产生“幻觉”这一事实提醒我们，在使用这类工具时，人类必须运用批判性思维能力。这也凸显了用户需要以审慎的眼光看待人工智能生成的内容。

人工智能行业认可

自 OpenAI 于 2023 年 4 月推出突破性的聊天机器人技术 ChatGPT 以来，“幻觉”一词在人工智能行业的讨论中日益受到关注。Alphabet 公司首席执行官桑达尔·皮查伊 (Sundar Pichai) 承认，人工智能行业正面临“幻觉问题”，目前尚无立竿见影的明确解决方案。这位科技界领军人物的表态凸显了问题的严重性。

Vectara对负责任人工智能的贡献

为推动人工智能的自我监管和负责任应用，大型语言模型（LLM）构建商Vectara于2023年11月推出了开源的幻觉评估模型。这一创新模型能够评估LLM与事实信息的偏差程度。通过量化这些偏差，Vectara旨在消除企业广泛采用人工智能的障碍，并降低与错误信息相关的风险。

剑桥词典将“幻觉”（hallucinate）选为年度词汇，凸显了人工智能行业面临的一个关键问题。人工智能的不准确性以及其生成虚假信息的可能性，引发了专家和公众的担忧。随着人工智能行业努力应对这些“幻觉问题”，负责任的人工智能开发以及在使用人工智能工具时保持警惕的批判性思维的重要性也愈发凸显。Vectara 的幻觉评估模型是应对这些挑战、确保人工智能在数字时代发挥积极作用而非助长虚假信息传播的重要一步。