Anthropic diz que a IA Claude causou erro “embaraçoso e não intencional” no processo

A Anthropic admitiu na quinta-feira que uma referência defeituosa em um documento judicial foi resultado de seu próprio assistente de IA, Claude, e chamou a falha de “um erro embaraçoso e não intencional.”

Universal, Concord e ABKCO processaram a Anthropic no ano passado, alegando que a empresa sediada em San Francisco copiou suas letras na íntegra para treinar o Claude. O caso é um dos vários casos de alto perfil sobre se as empresas de tecnologia podem usar obras protegidas por direitos autorais sem permissão para treinar sistemas de IA.

A Reuters reportou que, durante uma audiência na terça-feira, o advogado Matt Oppenheim, que representa a Universal Music Group, ABKCO e Concord, disse ao tribunal que a citação do chatbot era uma “fabricação completa” para apoiar o caso da Anthropic.

A Juíza Federal dos EUA Susan van Keulen chamou a alegação mais recente de “um problema muito sério e grave” e enfatizou “uma diferença de mundo entre uma citação perdida e uma alucinação gerada por IA.” A juíza ordenou que as partes explicassem o assunto completamente em suas submissões por escrito.

Advogados da Anthropic dizem que a IA Claude errou ao formatar

Em uma resposta por escrito na quinta-feira, a advogada da Anthropic, Ivana Dukanovic, disse que a referência era real, mas foi mal manipulada quando o Claude foi solicitado a formatá-la no estilo jurídico. Ela explicou que os números de volume e página errados produzidos pelo bot foram corrigidos durante uma revisão manual, mas erros de redação passaram despercebidos.

“Embora fornecendo o título da publicação correto, o ano de publicação e o link para a fonte fornecida, a citação retornada incluía um título impreciso e autores incorretos”, escreveu Dukanovic, acrescentando que o defeito não foi uma “fabricação de autoridade.”

A Anthropic pediu desculpas pela confusão e disse que o erro não foi deliberado nem uma tentativa de enganar o tribunal.

Erros de IA continuam causando problemas nos tribunais

Vários advogados enfrentaram críticas ou sanções recentemente por depender de material gerado por IA que se mostrou falso. Em seu registro, Dukanovic disse que o escritório de advocacia Latham & Watkins, que representa a Anthropic, adicionou “múltiplos níveis de revisão adicional para trabalhar e garantir que isso não ocorra novamente.”

O incidente se junta a uma lista crescente de erros em tribunais ligados à IA generativa.

Na semana passada, um juiz da Califórnia repreendeu dois escritórios de advocacia por não terem dito que usaram IA para elaborar um suplemento de breves repleto de referências “falsas” que “não existiam”. Em dezembro, um pesquisador de desinformação admitiu que o ChatGPT havia inventado citações em um registro que ele preparou.