Roc Nationを訴える弁護士、AIの幻覚を引用したため3度目の制裁を受ける

以前に人工知能の誤用で2回制裁を受けた弁護士が、エンターテインメント会社Roc Nationに対する裁判所提出書類にAIが捏造した引用を含めたため、連邦裁判所判事から再び非難されました。

裁判所書類の作成に人工知能を使用し、その作業を確認せずにいる弁護士が、深刻な罰則に直面するケースが増えています。2026年半ばまでに、裁判所は弁護士がAIツールによって生成された偽の法的引用を提出した1,667件の事件を記録しました。 

AIの幻覚が弁護士に罰金を科している

研究者Damien Charlotinが追跡するグローバルデータベースによると、弁護士は最大1,667件の裁判所事項で人工知能を誤用してきました。この誤用は、公式の裁判所文書にAIが生成した偽の引用を追加することに集中しています。これらの事件の頻度は、1年前に記録された230件と比較して約7倍増加しています。 

最近、米国のMagistrate Judge Jennifer Willisは、Tyrone Blackburn弁護士が、彼の提出書類に彼が引用した事件に現れない引用が含まれていることが発見された後、AIに関連する「行動の継続的なパターン」を示したと述べる命令を発行しました。

Willisは、Blackburnの行動が「倫理および職業上の義務に対するひどい違反」であると書き記しました。彼は、存在しない事件を引用したことで12月にすでに制裁を受けていました。 AIの幻覚 ニュージャージー州の連邦裁判所で。ペンシルベニア州の連邦裁判所判事は、昨年、捏造された引用の疑いで彼に5,000ドルの罰金を科しました。

弁護士、Roc Nation訴訟でAIの幻覚を引用

最新の事件で、Blackburnは、ラッパーFat Joeの協力者であるパフォーマーのTerrance Dixonの代理人として訴訟を提起しました。Dixonは、ミュージシャンとそのマネジメント会社であるRoc Nationが、雇用に関連する不正行為に従事したと主張しています。Dixonは、損失した給与やその他の損害を請求しています。Roc NationとFat Joeは、 これらの主張を否定しています.

Roc Nationは先月、裁判所に、それが根拠のない主張と呼ぶものを追求したとしてBlackburnを制裁するよう求めました。その後、裁判所にBlackburnの反対提出書類を却下するよう促し、それが期日を過ぎた後に提出され、それが AIによって幻覚された引用を含んでいるように見えたと言いました。.

Blackburnは、彼が引用した各裁判所決定が実在すると主張し、一部の資料を要約したと述べましたが、さらに踏み込もうとしました。Willis判事は、Blackburnの説明が彼の行動を「厚かましく最小限に評価している」と述べました。

Blackburnは、裁判所の命令に応答する予定ですが、彼の否定を維持しています。  

別の事件では、ミシシッピ北部地区のSharion Aycock上級連邦地区判事は、契約事件で両側の弁護士が幻覚された引用を提出したことが発見された後、4人の弁護士全員を資格停止にしました。 紛争 そのものは軽微なものであった。弁護士トム・ウィザースは、未払いの法律費用をめぐる契約違反の単一の訴えをアバディーン市に対して提起した。 

ウィザースはここで形式的にのみ自己弁護を行い、制裁は受けていない。しかし、彼の弁護士2人と市を代表する弁護士2人はそうはいかなかった。キャサリン・ウィリアムズはAIリサーチツールの使用を認め、ケイトリン・ウィルソンは生成AIを使用して回答を起草したことを認め、どちらも提出前に結果を検証しなかった。 

ウィルソンの主張は、AIが事件を捏造できることを知らず、幻覚的な事件（ハルシネーション）とは何かを理解していなかったというものであった。 

エイクコック裁判官は弁護を「不十分で信じがたい」と呼んだ。彼女は裁判をキャンセルしただけでなく、弁護士らに1,000ドルから3,500ドルの罰金を科した。さらに、ウィリアムズとウィルソンは2年間、彼女の管轄する裁判所での活動が禁止された。 

AIの幻覚（ハルシネーション）は他ではどこで起きているのか？ 

ウォールストリートで最も歴史のあるファームの一つであるサリバン・アンド・クロムウェルは、2026年4月、ニューヨークの連邦裁判所に対し、幻覚的な誤りを含む提出書類がプライス・グループ事件に提出されたことを認めた。 

同社の再編グループの共同責任者であるアンドリュー・ディートデリヒは、マーティン・グレン裁判官宛ての手紙で、米連邦破産法の誤引用や事件の誤った引用など、一連のミスについて謝罪した。 

同社は、AIポリシーが遵守されず、提出前に第2のレビューで誤った引用を見逃したと述べた。この事件の競合他社、ボイス・シラー・フレクサーは、 彼らを見つけた.

サリバン・アンド・クロムウェルは、中国系実業家チェン・ジーによって支配されていたプライス・グループを追及していた破産管財人を代表していた。 

米検察当局は昨年、チェン・ジーを、カンボジアにある強制労働詐欺コンプレックスをめぐる wire fraud（通信詐欺）およびマネーロンダリング（資金洗浄）の罪で起訴した。別に、検察当局は、当局が同グループの活動由来であると主張する約90億ドルのビットコインの没収を求めた。チェンはカンボジアで逮捕され、中国に引渡された。

なぜAI法務ツールは間違いを繰り返すのか？ 

主要な2つの法務リサーチプラットフォーム、Lexis+ AIおよびトムソン・ロイター（NYSE: TRI）のAIツールに対するテストでは、17%以上の確率で誤った情報が返された。一部のテストでは、エラー率は34%に達した。 

2026年2月、国立州裁判所センターは、AIの幻覚が司法制度にとって増大する脅威であると警告した。 

弁護士がAIの使用を禁止されているわけではないが、提出するすべての情報が正確であることを確認する倫理的義務がある。 

アメリカ弁護士会は2025年6月、AIの出力を検証しないことは弁護士の有能な代表義務に違反する可能性があると警告したが、これらの制裁は、多くの弁護士がその警告を真剣に受け止めていないことを示している。