Un avvocato ha utilizzato ChatGPT per un ricorso in appello in un caso di omicidio. Il programma ha inventato testimoni che non sono mai esistiti

Un avvocato del New Mexico, che difendeva un imputato condannato per omicidio, ha utilizzato ChatGPT. Ha poi presentato alla Corte Suprema del New Mexico un documento contenente dichiarazioni di polizia e testimonianze inventate.

La Corte Suprema del Nuovo Messico ha stabilito che l'avvocato Stephen Aarons non ha verificato il materiale generato dall'intelligenza artificiale. I giudici hanno affermato che il documento "conteneva false testimonianze di testimoni completamente inventati"

Mercoledì il tribunale ha dichiarato Stephen colpevole di oltraggio alla corte e gli ha ordinato di pagare 5.000 dollari. La sua condotta sarà inoltre sottoposta al vaglio di un comitato disciplinare per avvocati. I giudici hanno affermato che Stephen ha "dimostrato mancanza di rimorso e di interesse per il suo cliente"

Stephen ha dichiarato di aver utilizzato ChatGPT l'anno scorso per sintetizzare gli atti processuali dopo aver presentato ricorso. Ha affermato di non essersi reso conto di quanto le "allucinazioni" dell'IA o di con quanta sicurezzadentsoftware potesse produrre fatti mai accaduti.

I giudici del New Mexico puniscono Stephen dopo che ChatGPT ha inventato una testimonianza nell'ambito del ricorso per omicidio di Oscar

Stephen, un avvocato privato con studio a Santa Fe, ha rappresentato Oscar Renee Sandoval. Oscar si è dichiarato non colpevole dell'omicidio della madre dei suoi figli. È stato poi condannato all'ergastolo lo scorso anno. Il suo ricorso in appello è tuttora pendente.

Stephen avrebbe dichiarato ai giornalisti che l'errore era in buona fede. "Sono pentito, ma spero che la commissione disciplinare tenga conto del fatto che si è trattato di un errore in buona fede", ha affermato. "È una lezione per tutti i professionisti che si affidano a questa tecnologia potente ma a volte instabile."

Diversi avvocati sono già stati sanzionati per l' uso incontrollato dell'intelligenza artificiale. Sono stati avviati procedimenti contro avvocati sia nei tribunali statali che federali a causa di memorie che includevano casi falsi, riferimenti infondati e citazioni errate di disposizioni legali.

La richiesta di Stephen si distingue in questa categoria in quanto include false testimonianze di testimoni in un procedimento di appello.

Il caso di Oscar è stato affidato a Kim Chavez Cook, un'avvocata d'ufficio del New Mexico, il 2 settembre. Kim si sta ora occupando dell'appello, mentre il caso rimane aperto.

La famiglia di Tiru fa causa a OpenAI mentre le autorità della Florida esaminano 16.000 chat di ChatGPT collegate alla sparatoria alla FSU

L'altra battaglia legale riguarda ChatGPT in seguito alla sparatoria alla Florida State University. L'avvocato Tiru Chabba, che rappresenta la famiglia della vittima, ha citato in giudizio OpenAI, ChatGPT e Phoenix Ikner presso un tribunale federale.

La causa è stata presentata domenica presso il Tribunale distrettuale degli Stati Uniti per il distretto settentrionale della Florida. Si sostiene che OpenAI avrebbe dovuto intervenire in questa situazione.

Le forze dell'ordine della Florida hanno pubblicato le trascrizioni di ChatGPT di Phoenix. Queste contengono domande su come usare un'arma da fuoco, la copertura mediatica, il periodo di maggiore affluenza alla FSU, la strage di Columbine e come rendersi famigerati.

L'avvocato della famiglia di Tiru, ​​Bakari Sellers, ha affermato che gli scambi risalgono a circa 18 mesi fa e ammontano a circa 16.000 "chat inquietanti"

"Questa è la stessa persona che ha chiesto, sapete, come può diventare famoso? Ha chiesto informazioni sulla sparatoria di Columbine. Ha chiesto a che ora dovrebbe andare al campus? A che ora ci sarà la maggior parte delle persone?", ha detto Bakari.

"Ha letteralmente utilizzato l'intelligenza artificiale open source e Chat GPT come complice, usandoli come risorsa per compiere un omicidio di massa", ha aggiunto Bakari. "Non c'era nulla che potesse impedirlo e quindi sono state perse delle vite. Questo è il pericolo intrinseco, deve esserci qualcosa che impedisca che ciò accada."

OpenAI ha respinto ogni responsabilità per la sparatoria. Il portavoce Drew Pusateri ha dichiarato che, dopo aver appreso l'accaduto, l'azienda ha individuato un account che si ritiene collegato a Phoenix e ha prontamente condiviso le informazioni con la polizia. Drew ha aggiunto che OpenAI continua a collaborare con le autorità.

"La sparatoria di massa avvenuta lo scorso anno alla Florida State University è stata una tragedia, ma ChatGPT non è responsabile di questo terribile crimine", ha affermato Drew.

Ha affermato che ChatGPT rispondeva con informazioni fattuali già ampiamente disponibili tramite fonti internet pubbliche e non promuoveva comportamenti illegali o dannosi. Drew ha anche menzionato che centinaia di milioni di persone utilizzano quotidianamente ChatGPT per validi motivi.

Secondo Drew, OpenAI migliora costantemente i suoi strumenti che aiutano a riconoscere le intenzioni degli utenti, a prevenire gli abusi e ad intervenire in caso di problemi di sicurezza.

La causa in corso è scaturita da un caso analogo in Florida. Il procuratore generale James Uthmeier ha recentemente rivelato che l'indagine penale contro OpenAI e ChatGPT è stata avviata dall'Ufficio della Procura Statale.