英国の裁判所、偽のAI引用を使用した弁護士への厳格な罰則を警告

イングランド・ウェールズ高等裁判所は、法的調査にChatGPTのようなAIツールに依存することの危険性について弁護士に警告した。ビクトリア・シャープ裁判官は、これらの生成AIツールが信頼できる法的調査を行えないと判決を下した。

シャープ裁判官 主張した AIツールは一見整合性があり妥当な回答を提供できるが、完全に誤っている可能性もあると指摘した。彼女は、弁護士が調査にAIを使用することはできるが、専門的な業務で使用する前に、権威ある情報源を参照してそのような調査の正確性を確認する専門的な義務があると明確にした。

裁判官の発言は、弁護士が AI生成の虚偽を引用した事例に対する懸念が高まる中に行われた。シャープ女史の判決は、弁護士が裁判手続きでAIによって生成された偽の事件を引用したと認定された2つの最近の事例を引用した。彼女は、この判決がバー・カウンシルや法曹協会などの国内の専門機関と共有されると述べた。

弁護士フセインが$120Mの事件で存在しない事例を引用

弁護士への警告：検証なしにAIを使用して提出書類を作成する危険性

アル・ハルーン事件で、裁判所は存在しないか、不正確な引用が含まれている45件の引用を発見した。衝撃的なことに、これらの偽の引用は元々… pic.twitter.com/CbgNy1z7X1

— Lawpoint Uganda (@Lawpointuganda) 6月 7日、 2025年

弁護士のアビド・フセインは、カタール国立銀行との融資契約違反の疑いに関する1億2,000万ドル（8,900万ポンド）の訴訟で、存在しない事件を引用した。フセインは45件の引用を含む申立書を提出したが、そのうち18件は存在せず、他の多くも付与された引用を含んでいなかった。 

クライアントのハマド・アル・ハルーンは、公に利用可能なAIツールからの誤ったデータで裁判所を意図せず誤解させたことについて謝罪し、弁護士フセインではなく自分が責任を負うべきだと述べた。しかし、シャープは、弁護士が法的調査の正確性についてクライアントに依存し、その逆ではないという点が「異常」であると述べた。

キングズベンチ部門の長であるシャープ裁判官は、 深刻な影響 AIが誤用された場合、司法の運営や司法システムへの公衆の信頼に深刻な影響があると述べた。さらに、AIを誤用した弁護士は公的な非難や警察への通報を受ける可能性があると付け加えた。彼女は、バー・カウンシルと法曹協会に対し、この問題を「緊急の事項」として抑制するための措置を検討するよう呼びかけた。

裁判官はまた、バリー・チャンバーの責任者や弁護士のマネージングパートナーに対し、AIを使用する際にすべての弁護士が専門的および倫理的義務を理解していることを確認するよう求めた。

「回答は、単に誤りである自信に満ちた主張を行うことがあります。存在しない出典を引用することもあります。実際の出典からの引用であるかのように見せかけながら、その出典には記載されていない文章を引用することもあります。」

–ビクトリア・シャープ裁判官、キングズベンチ法廷長官

イングランド・ウェールズ法曹協会の最高責任者であるイアン・ジェフリー氏は、この判決が法的作業におけるAI使用の危険性を浮き彫りにしたと語った。さらに、AIツールは法的サービス提供を支援するためにますます使用されていると付け加えた。しかし、生成AIが生成する誤った出力の実際のリスクにより、弁護士は自分の作業の正確性を確認、レビュー、保証する必要がある。

弁護士フォリー氏、テナントの住宅訴訟で5件の偽事例を引用

弁護士サラ・フォリー氏は、ロンドン・ハリング区に対するテナントの住宅訴訟で5件の偽事例を引用しました。フォリー氏は使用を否定しましたが AI、シャープ裁判官は、彼女が何が起こったのかについて裁判所に整合性の取れた説明を提供しなかったと述べました。

裁判官はまた、偽の資料を真実であるかのように提供することは、裁判所への不敬罪、あるいは「最も悪質なケースでは」司法妨害と見なされる可能性があると警告しました。彼女は、これは専門的な義務を遵守しなかった弁護士に厳しい罰則をもたらす可能性があると付け加えました。

シャープ氏は、フォリー氏に懸念されるほどの洞察力の欠如が見られたと述べ、法廷は、法廷内での教科書や電子サブスクリプションサービスへのアクセスが不足していたという状況（もしそのような状況があったとしても）が、軽減事由としてほとんど意味を持たないことを受け入れないと付け加えました。

彼女は、フォリー氏が引用した事例を、国立公文書館の判例ウェブサイトでの検索や、所属するイン・オブ・コート（弁護士会館）の法務図書館での確認によって検証できたはずだと主張しました。シャープ氏は、フォリー氏が 偽の引用 を意図的に含めたか、または証言書で否定していたにもかかわらずAIを使用した可能性があると指摘しました。

先月、リッチー裁判官は は 、3ボルトコートでパプイル（見習い弁護士）であったフォリー氏と、ロンドンのハリング・ロー・センターの弁護士たちが、5件の偽事例を引用した行為は不適切で、不合理かつ過失があったと指摘しました。また、彼ら全員に不要費用の支払いを命じました。