Lo studio legale Gordon Rees evita sanzioni per errori dell'IA in un caso di fallimento

L'uso imprudente dell'IA generativa nei procedimenti legali ha portato al rimprovero personale dell'avvocato Cassie Preston dello studio legale Gordon Rees Scully Mansukhani da parte di un giudice fallimentare degli Stati Uniti. 

In un caso di fallimento ai sensi del Capitolo 11 presentato da Jackson Hospital & Clinic in Alabama, il giudice fallimentare degli Stati Uniti Judge, Christopher Hawkins, ha deciso di non imporre sanzioni formali a Gordon Rees Scully Mansukhani, anche dopo che lo studio ha presentato atti giudiziari contenenti citazioni legali generate dall'IA che si sono rivelate essere inventate.

I tribunali considerano le citazioni generate dall'IA falsificate come gravi violazioni etiche e procedurali degne di sanzione.

Giudice sgridata all'avvocato per uso negligente AI utilizzata

Nella sua sentenza, il giudice Hawkins ha dichiarato che Gordon Rees ha evitato il rimprovero perché lo studio aveva "preso misure ragionevoli" per affrontare i rischi associati all'uso dell'IA generativa per il lavoro legale. Lo studio aveva già rimborsato le parti avversarie per oltre $55.000 in onorari legali relativi alle presentazioni difettose.

Per prevenire futuri problemi, lo studio ha anche modificato le proprie regole interne, introducendo un processo obbligatorio di "verifica delle citazioni" ogni volta che vengono utilizzati strumenti di IA per generare ricerche o redigere documenti.

Sebbene lo studio nel suo complesso sia stato risparmiato, il giudice Hawkins ha ufficialmente rimproverato l'ex avvocato di Gordon Rees Cassie Preston, responsabile delle presentazioni a nome del creditore Progressive Perfusion.

Preston ha spiegato che in quel momento aveva attraversato alcune difficili circostanze personali. Nonostante ciò, il giudice ha ritenuto che il suo comportamento "costituisse un abuso del processo fallimentare ".

Il parere dettagliato di Hawkins occupava 32 pagine e includeva il fatto che Preston "ha insistito, triplicato e quadruplicato la sua insistenza su argomenti non supportati dalle autorità citata."

Come parte della sua punizione, a Preston è richiesto di distribuire la sentenza e il parere del tribunale a tutti i suoi clienti, agli avvocati della parte avversa e ai giudici in qualsiasi caso in corso.

Crescita preoccupazione per IA nei atti legali

I tribunali di tutto gli Stati Uniti stanno sempre più spesso segnalando citazioni legali false e autorità giuridiche errate generate dagli strumenti di IA. In un caso del Puerto Rico relativo alla FIFA-law ad esempio, due avvocati sono stati multati per oltre 24.400 dollari per aver presentato atti contenenti oltre 50 citazioni difettose o inesistenti.

Tre avvocati dello studio Butler Snow sono stati pubblicamente rimproverati da un giudice federale a Birmingham, in Alabama, Anna Manasco, per aver utilizzato ChatGPT per generare citazioni legali che si sono rivelate completamente inventate.

Il giudice ha definito il loro comportamento "una temerarietà estrema". Gli avvocati sono stati esclusi dal caso e, proprio come Preston, sono stati ordinati di condividere l'ordine e il parere del tribunale con tutti i loro clienti, gli avvocati della parte avversa e i giudici nei loro altri casi.

Secondo i rapporti del Washington Post, i tribunali degli Stati Uniti hanno documentato almeno 95 incidenti di avvocati che hanno presentato atti con casi falsi o inventati generati dall'IA. Tali errori erodono la fiducia nel sistema legale.

Steve Puiszis, consulente legale generale dello studio Hinshaw, afferma che gli avvocati devono sempre verificare in modo indipendente qualsiasi giurisprudenza, anche se generata dall'IA.