Anthropic afferma che l'intelligenza artificiale di Claude ha causato un errore "imbarazzante e involontario" nella causa legale

Giovedì Anthropic ha ammesso che un riferimento errato in un documento del tribunale era dovuto al suo assistente AI Claude e ha definito la mancanza "un errore imbarazzante e involontario"

Universal, Concord e ABKCO hanno fatto causa ad Anthropic lo scorso anno, sostenendo che l'azienda con sede a San Francisco aveva copiato all'ingrosso i loro testi per addestrare Claude. Il caso è uno dei tanti di alto profilo sulla possibilità per le aziende tecnologiche di utilizzare opere protette da copyright senza autorizzazione per addestrare sistemi di intelligenza artificiale.

Reuters ha riferito che durante un'udienza di martedì, l'avvocato Matt Oppenheim, che rappresenta Universal Music Group, ABKCO e Concord, ha dichiarato in tribunale che la citazione del chatbot era una "completa invenzione" per supportare la tesi di Anthropic.

Il giudice istruttore statunitense Susan van Keulen ha definito l'ultima accusa "una questione molto seria e grave" e ha sottolineato "l'enorme differenza tra una mancata citazione e un'allucinazione generata dall'intelligenza artificiale". Il giudice ha ordinato alle parti di spiegare la questione in modo esauriente nelle loro memorie scritte.

Gli avvocati di Anthropic affermano che Claude AI ha sbagliato durante la formattazione

In una risposta scritta di giovedì, l'avvocato di Anthropic, Ivana Dukanovic, ha affermato che il riferimento era reale, ma è stato gestito male quando a Claude è stato chiesto di formattarlo in stile legale. Ha spiegato che i numeri di volume e di pagina errati generati dal bot sono stati corretti durante una revisione manuale, ma che gli errori di formulazione sono passati inosservati.

"Sebbene siano stati forniti il ​​titolo della pubblicazione, l'anno di pubblicazione e il collegamento alla fonte forniti, la citazione restituita includeva un titolo impreciso e autori errati", ha scritto Dukanovic, aggiungendo che il problema non era una "fabbricazione di autorità"

Anthropic si è scusata per la confusione e ha affermato che la svista non era né intenzionale né un tentativo di fuorviare la corte.

Gli errori dell'intelligenza artificiale continuano a causare problemi in tribunale

Diversi avvocati hanno recentemente dovuto affrontare critiche o sanzioni per essersi affidati a materiale generato dall'intelligenza artificiale che si è rivelato falso. Nella sua denuncia, Dukanovic ha affermato che lo studio legale Latham & Watkins, che rappresenta Anthropic, ha aggiunto "diversi livelli di revisione aggiuntivi per garantire che ciò non accada di nuovo"

L'dent si aggiunge alla crescente lista di errori giudiziari legati all'intelligenza artificiale generativa.

La scorsa settimana, un giudice della California ha rimproverato due studi legali per non aver dichiarato di aver utilizzato l'intelligenza artificiale per redigere una memoria integrativa piena di riferimenti "falsi" che "non esistevano". A dicembre, un ricercatore specializzato in disinformazione ha ammesso che ChatGPT aveva inventato citazioni in un documento da lui preparato.