I giudici federali degli Stati Uniti ammettono di aver utilizzato l'IA su ordini giudiziari “pieni di errori”

- Due giudici federali statunitensi hanno ammesso che il loro personale ha utilizzato strumenti di intelligenza artificiale come ChatGPT e Perplexity per redigere sentenze, successivamente ritirate a causa di errori fattuali e giuridici.
- Entrambi i giudici hanno da allora implementato procedure di revisione più rigorose e redatto politiche sull'uso dell'IA all'interno delle proprie camere.
- Il senatore Grassley ha esortato il sistema giudiziario a stabilire linee guida più solide sull'IA, mentre corti e studiosi di diritto dibattono sulle norme per la trasparenza nelle sentenze assistite dall'IA.
Due giudici federali degli Stati Uniti hanno ammesso che il personale nelle loro camere si è rivolto all'intelligenza artificiale per aiutare a redigere le sentenze e che l'esperimento è andato male.
In una coppia di lettere candid rese pubbliche giovedì dal Senatore Chuck Grassley, Presidente del Comitato Giudiziario del Senato, i Giudici Henry T. Wingate del Mississippi e Julien Xavier Neals del New Jersey hanno dichiarato che gli strumenti di IA sono stati utilizzati nella preparazione degli ordini giudiziari che sono stati successivamente trovati pieni di errori fattuali e passi falsi legali. Entrambe le decisioni sono state successivamente ritirate.
Grassley, che aveva richiesto spiegazioni, ha detto: “Ogni giudice federale, e il sistema giudiziario come istituzione, ha l'obbligo di garantire che l'uso dell'IA generativa non violi i diritti delle parti o impedisca un trattamento equo davanti alla legge.”
Gli errori del personale espongono i limiti dell'IA in tribunale
Nella sua lettera, il Giudice Neals del Distretto del New Jersey ha detto che una bozza di sentenza in una causa per valori mobiliari era stata rilasciata “per errore — errore umano” dopo che uno stagista di una scuola di legge aveva utilizzato ChatGPT di OpenAI per la ricerca senza autorizzazione o divulgazione. La decisione è stata prontamente ritirata una volta scoperto l'errore.
Per prevenire il ripetersi dell'evento, Neals ha detto che le sue camere hanno da allora creato una politica scritta sull'IA e migliorato il suo processo di revisione.
Il Giudice Wingate, che serve nel Distretto Meridionale del Mississippi, ha detto che un impiegato legale ha utilizzato lo strumento di IA Perplexity “come assistente di redazione fondamentale per sintetizzare informazioni pubblicamente disponibili sul registro.”
Quell'ordine bozza, emesso in un caso di diritti civili, è stato successivamente sostituito dopo che ha identificato errori. Wingate ha dichiarato che l'evento “è stata una mancanza di supervisione umana”, aggiungendo che ha da allora stretto le procedure di revisione all'interno delle sue camere.
Critica all'uso dell'IA nel lavoro legale
L'episodio si aggiunge a un elenco crescente di controversie coinvolgenti materiale legale generato dall'IA. Avvocati in diverse giurisdizioni degli Stati Uniti hanno affrontato sanzioni negli ultimi anni per aver presentato documenti redatti da chatbot che includevano citazioni di casi fabricati e precedenti mal applicati.
All'inizio di questo mese, il sistema giudiziario dello stato di New York ha emanato una nuova politica che limita i giudici e il personale dall'inserire informazioni riservate, privilegiate o non pubbliche del caso negli strumenti di IA generativa pubblici.
Mentre la professione legale è stata veloce a esplorare il potenziale dell'IA per migliorare l'efficienza, gli incidenti hanno esposto i limiti della tecnologia, in particolare la sua tendenza a hallucinare, o generare informazioni plausibili ma false. Per i tribunali, dove l'integrità, l'accuratezza delle sentenze e l'onere della prova sono paramount, tali mancanze rischiano di minare la fiducia pubblica nel sistema di giustizia.
Grassley, che ha lodato Wingate e Neals per aver assunto la responsabilità degli errori, ha anche esortato il sistema giudiziario a mettere in atto linee guida più forti sull'IA.
L'Ufficio Amministrativo dei Tribunali degli Stati Uniti non ha rilasciato linee guida complete sull'uso dell'IA, sebbene diversi circuiti di tribunali stiano esplorando framework per un'implementazione limitata e supervisionata. Gli studiosi legali, d'altra parte, stanno proponendo una regola di divulgazione, che richiederà ai giudici di notare pubblicamente qualsiasi uso dell'IA nelle loro opinioni o ordini, in modo simile ai requisiti di citazione per la ricerca esterna.
Gli incidenti avvengono mentre le agenzie federali e gli organismi professionali continuano a confrontarsi con questioni relative alla responsabilità dell'IA.
Non limitarti a leggere le notizie sulle criptovalute. Comprendile. Iscriviti alla nostra newsletter. È gratuita.

Hannah Collymore
Hannah è una scrittrice e redattrice con quasi un decennio di esperienza nella scrittura di blog e nella copertura di eventi nel settore delle criptovalute. Presso Cryptopolitan, Hannah contribuisce alla pagina delle notizie, riportando e analizzando gli ultimi sviluppi nei settori DeFi, RWA, regolamentazione crypto, intelligenza artificiale e tecnologie emergenti. Si è laureata all'Arcadia University con una laurea in Amministrazione Aziendale.















