依赖人工智能的危险：一个警示故事

在生活的小插曲中，有微小的人工智能错误，然后有不可原谅的失误。众议院议长兼议员安东尼·罗塔（Anthony Rota）最近的辞职就是后者的一个鲜明提醒。罗塔的离职是在巨大的压力下发生的，其原因让整个加拿大和国际社会感到震惊。

盲目信任 AI 的陷阱

安东尼·罗塔邀请了一位二战老兵参加议会活动，后来才发现这位老兵曾是与纳粹并肩作战的军事部队的一员。令人震惊的是，整个加拿大议会，在不知情的情况下，为这位老兵鼓掌。这一事件现在已成为加拿大的国际耻辱来源，引发了包括自由党议员、反对党和新民主党在内的各个政治派别的愤怒。

留下的问题包括罗塔的行为是否是一个严重的疏忽、无知的结果，还是一个搞砸了的计算错误的政治举动。无论根本原因如何，有一点是明确的：这场灾难的很大一部分归因于基本审查的缺乏，未能提出关于此人是谁以及其历史包含什么的基本问题。在有用信息的领域，确定某人是否与纳粹有关联无疑是至关重要的。

随着我们深入剖析这一事件，不禁让人反思信息传播格局的演变，这其中也带来了一系列挑战。随着人工智能（AI）的出现，我们似乎拥有了一个可靠的信息来源，但表象往往具有欺骗性。AI正迅速渗透到我们生活的方方面面，从研究到电子表格和演示文稿的制作。在此背景下，信息审核的重要性怎么强调都不为过，否则我们可能会陷入尴尬的境地，无论是小尴尬还是大尴尬。

主要的担忧源于日益增长的趋势，即实施基于提示分析数据或提供信息的工具。包括微软、谷歌、Meta（前身为Facebook）和亚马逊在内的科技巨头正在对AI进行重大投资。ChatGPT的创造者OpenAI，作为最著名的AI技术之一，获得了大量资金，尤其是来自微软的投资，后者正将AI助手整合到其核心产品中，包括无处不在的Office软件套件。

然而，“人工智能”这个名字可能会产生误导。其核心在于，当代AI依赖于大型语言模型（LLM）。这些LLM擅长识别语言中的模式，并从网上庞大的内容池中汲取知识。因此，当你要求AI助手生成旅行行程或制作演示文稿时，它能非常出色地完成这些任务。本质上，它将在线内容聚合并综合成连贯的回复。

然而，AI存在一个关键局限性：它并不具备真正的理解能力。相反，它通过收集信息并识别正确答案可能呈现的样子来运作。这种固有的局限性导致AI助手经常提供错误的信息。例如，它们可能会提供错误的数学解释或返回过时的数据。

随着AI变得越来越普遍，其不可靠性变得更加令人担忧。微软最近宣布推出Copilot，一款用于Windows和Office的AI助手，这证明了这一趋势。虽然Copilot在电子表格计算和幻灯片设计等任务中可能非常有用，但依赖它进行信息检索（如分析销售数据或将网络数据整合到演示文稿中）可能会导致危险的局面。

简而言之，AI本质上不可靠且容易出错。过度依赖AI来处理影响他人并获得金钱报酬的任务，会带来尴尬和错误的高风险。

职场中的AI：一把双刃剑

在文学中，不可靠叙述者是一个常用的套路——由于各种原因，其叙述不可信的角色。作为一名教育工作者，我经常告诉我的学生，虽然这可能令人沮丧，但批判性阅读是必不可少的。盲目信任权威的声音并不是一个明智的做法。

这一原则同样适用于 AI。AI 的不准确性、偏见和判断失误的实际后果是具体且深远的。虽然社会正在努力如何应对这一新的技术格局，但给个人的建议清晰而直接：

改写并扩展： AI 的情况与处理文学中不可靠的叙述者非常相似。然而，AI 的谎言、错误和判断失误的现实后果是非常真实的。

在这个AI迅速发展的时代，警惕、批判性思维以及对技术的谨慎依赖至关重要。AI作为快速高效信息来源的吸引力不应掩盖验证和交叉引用信息的重要性。在追求准确性和可信度的过程中，我们必须记住，AI虽然强大，但并非万无一失。