英国法院警告律师使用虚假AI引用将面临严厉处罚

英格兰和威尔士高等法院警告律师不要依赖ChatGPT等人工智能工具进行法律研究。Victoria Sharp法官裁定，这些生成式人工智能工具无法进行可靠的法律研究。

Sharp法官 声称 人工智能工具可能会提供看似连贯且合理的答案，但也可能完全错误。她澄清说，虽然律师可以在研究中使用人工智能，但他们有专业义务在将其用于专业工作之前，参考权威来源检查此类研究的准确性。

法官的言论是在人们对律师引用看似……的案例日益担忧的背景下提出的 人工智能生成的虚假案例。Sharp女爵士的裁决引用了两个最近的案例，在这两个案例中，律师被发现在法庭程序中生成了虚假案例。她说，她的裁决将分享给该国的专业机构，包括律师公会和律师协会。

律师侯赛因在$120M案件中引用了不存在的案例

律师请注意：未经核实使用人工智能起草提交材料的危险

在Al-Haroun案中，法院发现了45处引用，这些引用要么不存在，要么包含不准确的引文。令人震惊的是，这些虚假引用最初是由…… pic.twitter.com/CbgNy1z7X1

— Lawpoint Uganda (@Lawpointuganda) 6月 7, 2025

律师Abid Hussain在一宗涉及 alleged 违反与卡塔尔国家银行融资协议的1.2亿美元（8900万英镑）诉讼中引用了不存在的案例。Hussain提交了一份包含45处引用的文件，其中18处不存在，而许多其他引用也不包含归因于它们的引文。 

客户Hamad Al-Haroun为无意中利用公开可用的人工智能工具误导法院而道歉，并表示他应承担责任，而不是他的律师Hussain。但Sharp表示，律师依赖客户来确保法律研究的准确性，而不是反过来，这“非同寻常”。

王座庭庭长Sharp法官表示，存在 严重的影响 如果人工智能被滥用，将对司法公正和公众对司法制度的信心产生严重影响。她补充说，滥用人工智能的律师可能会面临公开谴责并被移交警方。她呼吁律师公会和律师协会“紧急”考虑采取措施遏制这一问题。

法官还要求大律师事务所负责人和律师事务所管理合伙人确保所有律师在使用人工智能时了解其专业和道德职责。

“这些回答可能会做出看似自信但完全错误的断言。它们可能会引用不存在的来源。它们可能会声称引用真实来源中的段落，但这些段落实际上并不存在于该来源中。”

–Victoria Sharp法官，王座庭庭长

英格兰和威尔士律师协会首席执行官Ian Jeffery表示，这一裁决揭示了在法律工作中使用人工智能的危险。他补充说，人工智能工具越来越多地用于支持法律服务交付。然而，生成式人工智能产生错误输出的真正风险要求律师检查、审查并确保其工作的准确性。

律师Forey在租户住房索赔中引用五个虚假案例

大律师Sarah Forey在针对伦敦哈林盖区的租户住房索赔中引用了五个虚假案例。Forey否认使用 AI，但Sharp表示她未向法院提供关于此事的连贯解释。

法官还警告说，将虚假材料作为真实材料提供可能被视为藐视法庭，或在“情节最恶劣的情况下”构成妨害司法公正。她补充说，这可能导致不遵守其专业义务的律师面临严厉处罚。

Sharp表示Forey表现出令人担忧的缺乏洞察力，并补充说，法院不接受缺乏进入图书馆或电子订阅服务的权限（如果这是事实）能提供比边际减轻更严重的理由。

她断言，Forey本可以通过搜索国家档案馆案例网站或前往其律师学院的图书馆来检查她引用的案例。Sharp观察到，Forey必须故意包含 虚假引用 或者使用人工智能，尽管她在证人陈述中否认了这一点。

上个月，Ritchie法官 表示 指出，在引用五个虚假案例时，Forey（当时是3 Bolt Court的学徒）和伦敦Haringey法律中心的律师的行为是不当、不合理和疏忽的。他还命令他们支付所有浪费的费用。