Anthropic称Claude AI在诉讼中造成“尴尬且无意”的错误

Anthropic周四承认，法院文件中错误的引用是其自身AI助手Claude的结果，并称这一疏忽是“尴尬且无意的错误”。

Universal、Concord和ABKCO去年起诉Anthropic，指控这家位于旧金山的公司全盘抄袭其歌词以训练Claude。该案件是几起高调案件之一，涉及科技公司是否可以在未经许可的情况下使用受版权保护的作品来训练人工智能系统。

路透社报道，在周二的听证会上，代表Universal Music Group、ABKCO和Concord的律师Matt Oppenheim告诉法庭，聊天机器人的引用是“完全捏造的”，以支持Anthropic的案件。

美国法官助理Susan van Keulen称最新指控“是一个非常严重和严重的问题”，并强调“遗漏引用和由AI产生的幻觉之间存在天壤之别”。法官要求各方在书面提交中充分解释此事。

Anthropic律师称Claude AI在格式化时出错

周四的一份书面回复中，Anthropic律师Ivana Dukanovic表示，该引用是真实的，但在要求Claude以法律风格格式化时处理不当。她解释说，机器人生成的错误卷号和页码在人工审查期间得到了修正，但措辞错误却未被察觉地漏掉了。

“虽然提供了正确的出版标题、出版年份和所提供来源的链接，但返回的引用包括不准确的标题和错误的作者，”Dukanovic写道，并补充说，这一故障并非“权威捏造”。

Anthropic对混淆表示道歉，并表示这一失误并非故意，也不是试图误导法庭。

AI错误继续在法庭上引发麻烦

最近，几位律师因依赖AI生成的材料而受到批评或制裁，这些材料后来被证明是虚假的。在她的文件中，Dukanovic表示，代表Anthropic的律师事务所Latham & Watkins已增加“多个级别的额外审查，以确保此类事件不再发生”。

这一事件加入了一个日益增长的与生成式AI相关的法庭错误列表。

上周，一位加州法官批评了两家律师事务所，因为它们未声明曾使用AI起草了一份充满“虚假”引用的补充简报，这些引用“根本不存在”。12月，一名虚假信息研究人员承认，ChatGPT在他准备的一份文件中编造了引用。