アンソロピック、Claude AIが訴訟で「恥ずかしく、意図しない」エラーを引き起こしたと主張

アンソロピックは木曜日、裁判書類における誤った参照が、同社のAIアシスタントClaudeの結果であることを認め、この過ちを「恥ずかしく、意図しないミス」と呼びました。

ユニバーサル、コンコード、ABKCOは昨年、サンフランシスコを拠点とする同社がClaudeの学習のために歌詞を丸ごとコピーしたとして、アンソロピックを提訴しました。この 事件は、テクノロジー企業が著作権で保護された作品を許可なく使用してAIを学習させることができるかどうかをめぐる、いくつかの注目すべき事件の一つです。

Reuters は、火曜日の公聴会で、ユニバーサル・ミュージック・グループ、ABKCO、コンコードを代表する弁護士マット・オッペンハイム氏が、チャットボットの引用はアンソロピックの主張を裏付けるための「完全な捏造」であると法廷に語ったと報じた。

米陪席判事のスーザン・ヴァン・ケイレンは、最新の告発を「非常に深刻で重大な問題」と呼び、「見落としられた引用とAIによって生成された幻覚の間には、天地ほどの違いがある」と強調しました。判事は、当事者に書面での提出でこの問題を完全に説明するよう命じました。

アンソロピックの弁護士、Claude AIのフォーマットミスについて

木曜日の書面回答で、アンソロピックの弁護士イヴァナ・ドゥカノヴィッチは、参照は実在したが、Claudeに法的スタイルでフォーマットするよう依頼された際に誤って処理されたと述べました。彼女は、ボットによって生成された誤った巻数とページ番号は手動レビュー時に修正されたが、文章の誤りは気づかれずに通過してしまったと説明しました。

「正しい出版物タイトル、出版年、提供されたソースへのリンクを提供しながらも、返された引用には不正確なタイトルと誤った著者が含まれていました」とドゥカノヴィッチは書き、この欠陥は「権威の捏造」ではないと付け加えました。

アンソロピックは 混乱 について謝罪し、このミスは意図的なものでも、裁判所を誤解させる意図があったものでもないと述べました。

AIのミスが裁判所でトラブルを引き起こし続ける

最近、AI生成の資料を信頼した複数の弁護士が、それが虚偽であることが判明したことで批判や制裁を受けています。ドゥカノヴィッチの提出書類によると、アンソロピックを代表する法律事務所ローソン・アンド・ワトキンスは、「これが再発しないようにするために、複数の追加レビューレベルを追加した」と述べています。

この出来事は、生成AIに関連する裁判所のエラーの増加するリストに加わりました。

先週、カリフォルニアの判事は、AIを使用して作成された「偽物」の参照で満たされ、「存在しない」補足簡易書面を作成したことを明記しなかった2つの法律事務所を叱責しました。12月には、ある情報誤認研究者が、彼が準備した提出書類でChatGPTが引用を捏造したことを認めました。