Morgan & Morgan 向律师发出强烈警告，不要陷入 AI 幻觉

据报道，美国人身伤害律师事务所 Morgan & Morgan 本月向它保留的 1,000 多名律师发送了一封紧急电子邮件。这封通讯包含了一个关于 AI 生成非常逼真的虚假案例法的重要警告。 

该律师事务所警告称，任何在法庭文件中利用这些捏造的信息来支持其论点而遭到解雇的律师都将面临后果。

信息清晰明了。 

Morgan & Morgan 的高层无法含糊其辞，因为怀俄明州的一位联邦法官刚刚威胁要对两名在该律师事务所起诉 沃尔玛. 

根据一名在法庭文件中使用了 AI 幻觉的律师的承认，他使用了一个“幻觉”出案例的 AI 程序，并为他所谓的无意错误道歉。

法官尚未决定对 Morgan & Morgan 律师的纪律处分    

长期以来，怀疑论者一直预测 AI 普及的最坏情况。现在，AI 正在影响法律体系，其捏造的案例导致全国各地的法院质疑甚至惩罚犯错的律师。 

在过去两年中，至少有七起案件，这已成为诉讼参与人和法官的新高科技头痛问题，他们现在必须首先确定律师论点的可信度。  

沃尔玛案是律师在法庭上使用 AI “幻觉”的更流行案例之一，因为它涉及一家知名律师事务所和一家大型企业被告。然而，自聊天机器人 ChatGPT 开启了 AI 时代以来，其使用已在各种其他不太流行的诉讼中被观察到。

法官尚未裁定是否要对沃尔玛案中涉及的律师进行纪律处分，该案涉及一款据称有缺陷的滑板车玩具。

律师被敦促对生成式 AI 捏造的事实保持谨慎 

确实，多亏了生成式 AI，律师现在花费在研究和起草法律简报上的时间更少。许多律师事务所甚至聘请了 AI 供应商或建立了自己的 AI 工具 以最大化生产力。 

根据 Thomson Reuters 去年的一项调查，至少 63% 的 Reuters 母公司调查的律师表示他们在工作中使用过 AI，而 12% 的人表示他们定期使用它。

问题是，生成式 AI 以自信地捏造事实而闻名，因此试图在工作中使用它的律师必须谨慎行事，法律顾问表示。 

当 AI 有时产生虚假信息时，这被称为“幻觉”。模型根据从大型数据集中学习到的统计模式生成响应，而不是验证数据集中的事实。

根据律师的说法，律师必须审核并为其法庭文件负责，否则将面临纪律处分。去年，美国律师协会告知其 400,000 名成员，这些义务延伸至“即使是无意的错误陈述” 通过 AI 产生的内容。

Suffolk 大学法学院院长、AI 支持者 Andrew Perlman 表示：“当律师被发现使用 ChatGPT 或任何生成式 AI 工具创建引用而未进行检查时，那就是无能，纯粹而简单。” 

科罗拉多大学法学院教授 Harry Surden 研究 AI 与法律，他敦促律师花时间了解他们逐渐依赖的“工具的优缺点”。 

Surden 表示，之前的案例凸显了行业中的“AI 素养缺乏”，许多律师并不完全了解 AI 工具的限制和潜在错误，导致他们在法律文件中呈现这些错误。

当然，Surden 并不责怪技术。“在 AI 出现之前，律师在他们的文件中总是犯错误。这并不新鲜，”他说。 

虽然 Morgan & Morgan 并没有禁止其律师使用 AI，但它似乎希望其律师意识到使用 生成式人工智能 这种知识有望降低犯错的几率，但并不能完全消除风险。对于与法律工作相关的 AI 生成内容的彻底验证系统对于维持行业的专业标准、保持公众信任以及避免法律后果至关重要。