Il tribunale del Regno Unito avverte di severe penalità per gli avvocati che usano citazioni AI false

L'Alta Corte di Inghilterra e Galles ha avvertito gli avvocati sui pericoli di affidarsi a strumenti AI come ChatGPT per la ricerca legale. La giudice Victoria Sharp ha stabilito che questi strumenti di AI generativa non potevano condurre ricerche legali affidabili.

Giudice Sharp affermato che gli strumenti AI potevano fornire risposte apparentemente coerenti e plausibili ma anche essere completamente errate. Ha chiarito che mentre gli avvocati possono usare l'AI nelle loro ricerche, hanno un obbligo professionale di verificare l'accuratezza di tali ricerche facendo riferimento a fonti autorevoli prima di usarle nel loro lavoro professionale.

Le osservazioni della giudice sono arrivate in mezzo a crescenti preoccupazioni per casi in cui gli avvocati hanno citato quello che sembrava essere falsità generate dall'AI. La decisione della Dame Sharp ha citato due casi recenti in cui agli avvocati è stato trovato aver citato casi falsi generati dall'AI nei procedimenti giudiziari. Ha detto che la sua sentenza sarà condivisa con gli organismi professionali nel paese, tra cui il Bar Council e la Law Society.

L'avvocato Hussain cita casi inesistenti in un caso da $120M

Avvocati, attenzione: i pericoli di utilizzare l'IA per redigere memorie senza verifica

Nel caso Al-Haroun, il tribunale ha scoperto 45 citazioni stupefacenti che erano o inesistenti o contenevano citazioni inaccurate. Sconvolgentemente, queste false citazioni sono state originate… pic.twitter.com/CbgNy1z7X1

— Lawpoint Uganda (@Lawpointuganda) Giugno 7, 2025

L'avvocato Abid Hussain ha citato casi inesistenti in una causa da 120 milioni di dollari (89 milioni di sterline) riguardante un presunto inadempimento di un accordo di finanziamento con la Qatar National Bank. Hussain ha presentato una memoria con 45 citazioni, delle quali 18 non esistevano, mentre molte altre non contenevano le citazioni loro attribuite. 

Il cliente, Hamad Al-Haroun, si è scusato per aver involontariamente ingannato il tribunale con dati falsi provenienti da strumenti di IA pubblicamente disponibili e ha dichiarato di esserne responsabile piuttosto che il suo avvocato, Hussain. Ma Sharp ha definito "straordinario" il fatto che l'avvocato si sia affidato al cliente per l'accuratezza della propria ricerca legale anziché il contrario.

Il giudice Sharp, presidente della King's Bench Division, ha affermato che vi erano gravi implicazioni per l'amministrazione della giustizia e la fiducia pubblica nel sistema giudiziario se l'IA veniva utilizzata in modo improprio. Ha aggiunto che gli avvocati che abusano dell'IA potrebbero subire un ammonimento pubblico e un rinvio alla polizia. Ha esortato il Bar Council e la Law Society a prendere in considerazione misure per arginare il problema "con urgenza".

Il giudice ha inoltre chiesto ai capi delle camere di barristers e ai partner gestori degli studi legali di assicurarsi che tutti gli avvocati comprendessero i propri doveri professionali ed etici quando utilizzano l'IA.

"Le risposte possono fare affermazioni sicure che sono semplicemente false. Possono citare fonti che non esistono. Possono pretendere di citare passaggi da una fonte genuina che non appaiono in quella fonte."

–Giudice Victoria Sharp, Presidente della King's Bench Division

Ian Jeffery, il Chief Executive della Law Society of England and Wales, ha detto che la sentenza ha messo in luce i pericoli dell'uso dell'AI nel lavoro legale. Ha aggiunto che gli strumenti AI sono sempre più utilizzati per supportare la fornitura di servizi legali. Tuttavia, il vero rischio di output errati prodotti dall'AI generativa richiede agli avvocati di verificare, revisionare e garantire l'accuratezza del proprio lavoro.

L'avvocato Forey cita cinque casi falsi in una controversia abitativa di un inquilino

La barrister Sarah Forey ha citato cinque casi falsi in una controversia abitativa di un inquilino contro il London Borough of Haringey. Forey ha negato di aver utilizzato AI, ma Sharp ha affermato che non aveva fornito al tribunale una spiegazione coerente di quanto accaduto.

Il giudice ha anche avvertito che offrire materiale falso come genuino potrebbe essere considerato oltraggio al tribunale o, nei "casi più efferati", perversione del corso di giustizia. Ha aggiunto che ciò potrebbe comportare severe sanzioni per gli avvocati che non rispettano i propri obblighi professionali.

Sharp ha affermato che Forey ha mostrato una preoccupante mancanza di consapevolezza, aggiungendo che il tribunale non accetta che la mancanza di accesso a libri di testo o servizi di abbonamento elettronico all'interno della camera, se questa era la posizione, fornisse altro che una mitigazione marginale.

Ha affermato che Forey avrebbe potuto verificare i casi che ha citato cercando sul sito web delle sentenze degli Archivi Nazionali o recandosi alla biblioteca legale del suo Inn of Court. Sharp ha osservato che Forey deve aver deliberatamente incluso citazioni false o utilizzato l'IA nonostante lo abbia negato nella sua deposizione testimoniale.

Il mese scorso, il giudice Ritchie ha ha affermato che, citando cinque casi falsi, il comportamento di Forey, allora pupillo presso 3 Bolt Court, e degli avvocati di Haringey Law Centre a Londra era improprio, irragionevole e negligente. Ha anche ordinato a tutti loro di pagare le spese legali inutilmente sostenute.