Gli avvocati cercano chiarezza sull'uso dell'AI per le sentenze

In una mossa che ha suscitato controversie e preoccupazioni nella comunità legale di Taiwan, lo Yuan Giudiziario ha recentemente annunciato la sua intenzione di integrare l'intelligenza artificiale (AI) nella redazione delle sentenze giudiziarie. Sebbene i sostenitori sostengano che questa tecnologia potrebbe snellire e migliorare l'efficienza del sistema legale, i professionisti legali e gli attivisti per la giustizia chiedono trasparenza, responsabilità e salvaguardie per prevenire giudizi errati e distorti.

Richieste di divulgazione pubblica

Diversi gruppi prominenti, tra cui l'Ordine degli Avvocati di Taiwan e la Fondazione per la Riforma Giudiziaria, hanno espresso preoccupazione per la decisione dello Yuan Giudiziario. Sottolineano la necessità di una comunicazione chiara con il pubblico su come l'AI assisterà i giudici nella redazione delle sentenze e quali misure saranno implementate per prevenire potenziali errori e distorsioni. 

Espansione del ruolo dell'AI

Inizialmente, lo Yuan Giudiziario intende impiegare l'IA generativa nei casi di frode, riciclaggio di denaro e guida pericolosa, dopo il completamento dei test di sistema. Inoltre, prevede di espandere il coinvolgimento dell'IA alle cause civili relative al risarcimento per incidenti stradali, alla cancellazione dei debiti e alle liquidazioni. Lo Yuan Giudiziario afferma che il suo sistema di IA è progettato specificamente per produrre bozze di sentenze e non solo per generare contenuti standardizzati. Viene definito uno "strumento intelligente" capace di generare contenuti basati sulle relative accuse e di analizzare rapidamente i fatti e le prove penali.

Domande senza risposta

Nonostante l'entusiasmo dello Yuan Giudiziario per l'integrazione dell'IA, la comunità legale rimane scettica. Ci sono diverse domande urgenti che richiedono risposte:

Fonti dei dati e addestramento

Lo Yuan Giudiziario non ha divulgato l'intervallo temporale da cui sono stati tratti i documenti legali utilizzati per addestrare il sistema di IA. I professionisti legali sono preoccupati per la capacità del sistema di analizzare istantaneamente i fatti e le prove penali, specialmente se si affida principalmente alle sentenze dei tribunali e alle accuse piuttosto che ai fascicoli specifici dei casi.

Appaltatore terzo e gestione dei dati

Lo Yuan Giudiziario non ha fornito chiarezza su come un appaltatore terzo abbia costruito il database utilizzato per addestrare il sistema di IA. Inoltre, rimane incerto se i dati siano memorizzati e gestiti dall'appaltatore o dallo Yuan Giudiziario.

Il pubblico ha il diritto di comprendere come l'appaltatore affronterà i problemi derivanti da informazioni incomplete o distorte nel database durante la regolazione dei parametri dell'IA. Inoltre, è necessaria trasparenza riguardo a come verranno risolti i contenziosi sulla responsabilità tra lo Yuan Giudiziario e l'appaltatore.

Autorità e supervisione dei giudici

Sebbene lo Yuan Giudiziario affermi che i giudici manterranno l'autorità finale nel determinare i fatti, applicare la legge e emettere le sentenze, ci sono preoccupazioni riguardo all'accuratezza delle modifiche apportate ai contenuti generativi. È necessaria chiarezza sul fatto che i giudici avranno l'ultima parola sui fattori che portano alle loro decisioni.

Richieste di trasparenza

I professionisti legali e gli attivisti sostengono una maggiore trasparenza e accesso al database di addestramento dell'IA. Consentire ad avvocati, pubblici ministeri e altre parti interessate di esaminare il database permetterebbe un esame collettivo dei potenziali pregiudizi e dei rischi intrinseci del sistema.

Precedenti internazionali e preoccupazioni

Sebbene l'IA sia stata impiegata in altri paesi per assistere nella raccolta di prove per i casi legali, il suo utilizzo per aiutare i giudici nella redazione di sentenze e nel processo decisionale rimane un territorio relativamente inesplorato a livello internazionale. Uno studio della Purdue University ha sollevato preoccupazioni mostrando che una parte significativa delle persone potrebbe non rilevare errori nei contenuti dell'IA con un tasso di accuratezza inferiore al 50%, un fenomeno noto come "allucinazione artificiale".

Rischi dell'IA nella giustizia

C'è una crescente consapevolezza dei rischi associati all'uso estensivo dell'IA nel sistema giudiziario, in particolare negli Stati Uniti. Il ruolo dell'IA nell'assistere i giudici nelle sentenze basate sul rischio di recidiva degli imputati potrebbe involontariamente rafforzare i pregiudizi esistenti e le disuguaglianze razziali. L'IA, sebbene potente, potrebbe trascurare fattori culturali cruciali, le situazioni delle parti interessate e l'intento, elementi essenziali che i giudici devono considerare quando prendono decisioni che non possono essere replicate dall'IA.

L'integrazione dell'IA nel sistema giudiziario promette un aumento dell'efficienza, ma solleva anche domande complesse sulla trasparenza, sui pregiudizi, sulla responsabilità e sul ruolo dei giudici. La comunità legale a Taiwan chiede un approccio cauto che privilegi la divulgazione pubblica, tuteli contro i pregiudizi e preservi il ruolo essenziale del giudizio umano nel processo legale. Man mano che l'uso dell'IA nel campo legale continua a evolversi, affrontare queste preoccupazioni sarà essenziale per garantire risultati equi e giusti per tutti.