Morgan & Morgan invia untronavvertimento agli avvocati contro le allucinazioni dell'intelligenza artificiale

Morgan & Morgan, uno studio legale statunitense specializzato in lesioni personali, avrebbe inviato questo mese un'e-mail urgente agli oltre 1.000 avvocati che collaborano con lui. Il comunicato conteneva un avvertimento cruciale sulla capacità dell'intelligenza artificiale di elaborare casi di legge falsi molto convincenti. 

Lo studio legale ha avvertito che qualsiasi avvocato che utilizzi queste informazioni inventate in un atto giudiziario per sostenere la propria tesi potrebbe essere licenziato.

Il messaggio era chiaro e diretto al punto. 

I vertici di Morgan & Morgan non potevano permettersi di usare mezzi termini, perché un giudice federale del Wyoming aveva appena minacciato di sanzionare due avvocati dello studio per aver incluso citazioni di casi fittizi in una causa contro Walmart. 

Secondo quanto ammesso in un atto processuale da uno degli avvocati che ha utilizzato le allucinazioni dell'intelligenza artificiale, egli ha utilizzato un programma di intelligenza artificiale che ha "allucinato" i casi e si è scusato per quello che ha definito un errore involontario.

Il giudice deve ancora decidere l'azione disciplinare contro gli avvocati di Morgan & Morgan    

Per molto tempo, gli scettici hanno previsto gli scenari peggiori derivanti dalla proliferazione dell'IA. Ora, l'IA sta influenzando il sistema legale, con i suoi casi inventati che portano i tribunali di tutto il paese a mettere in discussione o addirittura punire gli avvocati inadempienti. 

Negli ultimi due anni si sono verificati almeno sette casi, e questo è ufficialmente diventato un nuovo grattacapo tecnologico per i querelanti e i giudici, che ora devono prima valutare la credibilità delle argomentazioni degli avvocati.  

Il caso Walmart è uno dei casi più noti di un avvocato che utilizza "allucinazioni" basate sull'intelligenza artificiale in tribunale, poiché coinvolge un noto studio legale e una grande azienda imputata. Tuttavia, il suo utilizzo è stato osservato in diverse altre cause meno conosciute da quando i chatbot come ChatGPT hanno dato il via all'era dell'IA.

Il giudice deve ancora pronunciarsi se sanzionare gli avvocati nel caso Walmart, che riguardava un hoverboard giocattolo presumibilmente difettoso.

Avvocati invitati a prestare attenzione ai fatti inventati dall'intelligenza artificiale generativa 

È vero che grazie all'intelligenza artificiale generativa, gli avvocati ora dedicano meno tempo alla ricerca e alla redazione di memorie legali. Molti studi legali hanno persino stipulato contratti contracdi intelligenza artificiale o hanno sviluppato i propri strumenti di intelligenza artificiale per massimizzare la produttività. 

Secondo un sondaggio condotto da Thomson Reuters lo scorso anno, almeno il 63% degli avvocati intervistati dalla società madre di Reuters ha dichiarato di aver utilizzato l'intelligenza artificiale nel proprio lavoro, mentre il 12% ha affermato di utilizzarla regolarmente.

Il problema è che l'intelligenza artificiale generativa è famosa per la suadentdi inventare fatti con sicurezza, quindi gli avvocati che cercano di utilizzarla per lavoro devono farlo con cautela, hanno affermato i consulenti legali. 

Quando un'IA produce talvolta informazioni false, si parla di "allucinazioni". I modelli generano risposte basate su modelli statistici appresi da grandi set di dati, anziché verificarne i fatti.

Secondo l'avvocato, i legali sono tenuti a verificare e sostenere i propri atti giudiziari, pena l'applicazione di provvedimenti disciplinari. L'anno scorso, l'American Bar Association ha informato i suoi 400.000 membri che tali obblighi si estendono anche a "un errore involontario" prodotto dall'intelligenza artificiale.

Andrew Perlman, preside della facoltà di giurisprudenza della Suffolk University e sostenitore dell'intelligenza artificiale, ha affermato: "Quando gli avvocati vengono sorpresi a usare ChatGPT o qualsiasi altro strumento di intelligenza artificiale generativa per creare citazioni senza verificarle, si tratta di pura e semplice incompetenza" 

Harry Surden, professore di diritto presso la facoltà di giurisprudenza dell'Università del Colorado e studioso di intelligenza artificiale e diritto, ha esortato gli avvocati a prendersi il tempo necessario per apprendere "i punti di forza e di debolezza degli strumenti" da cui stanno gradualmente diventandodent . 

Surden ha affermato che i casi precedenti evidenziano una "mancanza di alfabetizzazione in materia di intelligenza artificiale" nel settore, dove molti avvocati non sono pienamente consapevoli dei limiti e dei potenziali errori che gli strumenti di intelligenza artificiale possono commettere, il che li porta a presentare tali errori nei loro documenti legali.

Naturalmente, Surden non dà la colpa alla tecnologia. "Gli avvocati hanno sempre commesso errori nei loro dossier prima dell'IA. Non è una novità", ha affermato. 

Sebbene Morgan & Morgan non abbia vietato ai propri avvocati l'uso dell'IA, sembra che voglia che siano consapevoli dei potenziali rischi derivanti dall'impiego dell'IA generativa. Tale consapevolezza dovrebbe ridurre la probabilità di commettere errori, ma non elimina completamente il rischio. Un sistema di verifica rigoroso per i contenuti generati dall'IA in ambito legale sarà fondamentale per mantenere gli standard professionali del settore, preservare la fiducia del pubblico ed evitare ripercussioni legali.