L'avvocato ha usato ChatGPT per un appello per omicidio. Ha inventato testimoni che non sono mai esistiti

Un avvocato del New Mexico che si difendeva da una condanna per omicidio ha usato ChatGPT. Ha poi presentato una memoria alla Corte Suprema del New Mexico che conteneva dichiarazioni della polizia inventate e resoconti dei testimoni.

La Corte Suprema del New Mexico ha stabilito che l'avvocato Stephen Aarons non ha verificato il materiale generato dall'IA. I giudici hanno detto che il documento "conteneva false testimonianze di testimoni completamente inventati".

Il tribunale ha dichiarato Stephen in stato di contumacia mercoledì e gli ha ordinato di pagare 5.000 dollari. La sua condotta sarà anche sottoposta a un consiglio disciplinare degli avvocati. I giudici hanno detto che Stephen aveva "dimostrato una mancanza di rimorso e una mancanza di preoccupazione per il suo cliente".

Stephen ha dichiarato di aver usato ChatGPT l'anno scorso per condensare il verbale del processo dopo aver presentato l'appello. Ha detto di non rendersi conto di quanto potessero andare lontano gli allucinazioni dell'IA o di quanto il software potesse produrre fatti con confidenza che non erano mai accaduti.

I giudici del New Mexico puniscono Stephen dopo che ChatGPT ha inventato testimonianze nell'appello per l'omicidio di Oscar

Stephen, un avvocato privato con sede a Santa Fe, ha rappresentato Oscar Renee Sandoval. Oscar si è dichiarato non colpevole di aver ucciso la madre dei suoi figli. È stato successivamente condannato e ha ricevuto l'ergastolo lo scorso anno. Il suo appello è ancora in sospeso.

Stephen presumibilmente ha detto ai giornalisti che l'errore era stato onesto. "Sono pentito ma spero che il consiglio disciplinare tenga conto che è stato un errore onesto", ha detto. "È una lezione appresa per tutti i professionisti che si affidano a questa tecnologia potente ma a volte instabile".

Un certo numero di avvocati ha già affrontato punizioni per assistenza AI incontrollata. Sono stati intentati procedimenti contro avvocati sia nei tribunali statali che federali a causa di memorie che includono casi falsi, riferimenti e disposizioni legali citate erroneamente.

L'applicazione di Stephen si distingue in questa categoria in quanto include false testimonianze di testimoni in un processo di appello.

Il caso di Oscar è passato a Kim Chavez Cook, un difensore d'ufficio del New Mexico, il 2 settembre. Kim sta ora gestendo l'appello mentre il caso rimane aperto.

La famiglia di Tiru fa causa a OpenAI mentre i funzionari della Florida esaminano 16.000 chat di ChatGPT legate alla sparatoria alla FSU

L'altra battaglia legale coinvolge ChatGPT dopo la sparatoria alla Florida State University. Un avvocato che rappresenta la famiglia della defunta, Tiru Chabba, ha fatto causa a OpenAI, ChatGPT e Phoenix Ikner in un tribunale federale.

Il caso è stato depositato nel Tribunale Distrettuale degli Stati Uniti per il Distretto Settentrionale della Florida domenica. Si sostiene che OpenAI avrebbe dovuto agire in questa situazione.

I funzionari delle forze dell'ordine in Florida hanno rilasciato le trascrizioni di ChatGPT di Phoenix. Questo contiene query su come operare un'arma, la copertura dei media, l'orario più affollato alla FSU, la sparatoria di Columbine e rendersi famosi.

L'avvocato della famiglia di Tiru, Bakari Sellers, ha detto che gli scambi risalgono a circa 18 mesi e ammontano a circa 16.000 "chat inquietanti".

"È la stessa persona che ha chiesto, sai, come può diventare famoso? Ha chiesto della sparatoria di Columbine. Ha chiesto a che ora dovrebbe andare in campus? A che ora ci saranno più persone lì?" ha detto Bakari.

"Ha letteralmente utilizzato Open AI e Chat GPT come suo complice, lo ha utilizzato come risorsa per commettere omicidio di massa", ha aggiunto Bakari. "Non c'era nulla in atto per impedire che accadesse e così sono state perse delle vite. Questo è il pericolo intrinseco, deve esserci qualcosa in atto per impedire che accada".

OpenAI ha respinto la responsabilità per la sparatoria. Il portavoce Drew Pusateri ha detto che l'azienda ha trovato un account ritenuto associato a Phoenix dopo aver appreso cosa era successo e ha condiviso proattivamente le informazioni con la polizia. Drew ha detto che OpenAI sta ancora cooperando con le autorità.

"La sparatoria di massa dello scorso anno alla Florida State University è stata una tragedia, ma ChatGPT non è responsabile di questo terribile crimine", ha detto Drew.

Ha detto che ChatGPT ha risposto con materiale fattuale già ampiamente disponibile attraverso fonti pubbliche su internet e non ha promosso comportamenti illegali o dannosi. Drew ha anche menzionato che centinaia di milioni di persone utilizzano quotidianamente ChatGPT per motivi validi.

Secondo Drew, OpenAI sta costantemente migliorando i suoi strumenti che aiutano a riconoscere le intenzioni degli utenti, prevenire l'abuso e agire in caso di qualsiasi preoccupazione per problemi di sicurezza.

L'attuale causa è arrivata dopo un caso simile in Florida. Il Procuratore Generale James Uthmeier ha recentemente rivelato che l'indagine penale è stata lanciata contro OpenAI e ChatGPT dall'Ufficio di Procura Statale.