OpenAI e Microsoft citati in giudizio per il ruolo di ChatGPT nell'omicidio-suicidio

L'eredità di una donna del Connecticut di 83 anni ha citato in giudizio lo sviluppatore di ChatGPT OpenAI e Microsoft, sostenendo che il chatbot ha alimentato le sue credenze deliranti, che hanno portato a un omicidio-suicidio. Il caso segna la prima volta che un sistema di intelligenza artificiale è stato direttamente collegato a un omicidio.

La causa, presentata presso il tribunale superiore della California a San Francisco, accusava OpenAI di aver progettato e distribuito un prodotto difettoso sotto forma di ChatGPT-4o. Il documento afferma che ha rafforzato le credenze paranoiche di Stein-Erik Soelberg, che poi ha diretto quelle credenze verso sua madre, Suzanne Adams, prima di ucciderla e poi se stesso nella loro casa a Greenwich, nel Connecticut.

OpenAI e Microsoft presi di mira nell'omicidio che coinvolge ChatGPT

Parlando del caso, J. Eli Wade-Scott, managing partner di Edelson PC, che rappresenta l'eredità di Adams, ha menzionato che questo è il primo caso che cerca di rendere OpenAI responsabile per il suo ruolo nel causare violenza a un terzo. “Rappresentiamo anche la famiglia di Adam Raine, che tragicamente ha messo fine alla propria vita quest'anno, ma questo è il primo caso che renderà OpenAI responsabile per aver spinto qualcuno a fare del male a un'altra persona”, ha detto Eli Wade-Scott.

Secondo il rapporto della polizia, Soelberg ha picchiato e strangolato Adams a morte ad agosto prima di morire per suicidio. La causa ha menzionato che prima che l'incidente si verificasse, il chatbot aveva intensificato la paranoia di Soelberg, aumentando la sua dipendenza emotiva dal sistema sviluppato da OpenAI. Secondo la denuncia, ChatGPT ha rafforzato la sua convinzione che non si potesse fidare di nessuno tranne che del chatbot, notando che tutti intorno a lui, inclusa sua madre, erano nemici.

La causa ha anche affermato che oltre a sua madre, Soelberg vedeva anche persone come i corrieri di consegna e gli agenti di polizia come nemici. Il documento ha menzionato che ChatGPT non ha sfidato quelle affermazioni deliranti né ha suggerito che Soelberg cercasse l'aiuto di professionisti qualificati della salute mentale. “Stiamo esortando le forze dell'ordine a iniziare a pensare a quando si verificano tragedie come questa, cosa diceva quell'utente a ChatGPT e cosa ChatGPT gli diceva di fare”, ha detto Wade-Scott.

Nella sua dichiarazione, OpenAI ha notato che sta attualmente esaminando la causa e continuerà a migliorare la capacità di ChatGPT di riconoscere la distress emotivo, de-escalare le conversazioni e spingere gli utenti a cercare supporto nel mondo reale. “Questa è una situazione incredibilmente straziante e stiamo esaminando i documenti per comprendere i dettagli”, ha detto un portavoce di OpenAI in una dichiarazione.

L'eredità vuole che OpenAI installi misure di sicurezza sul suo chatbot

La causa nomina il CEO di OpenAI Sam Altman come convenuto e accusa Microsoft di aver approvato il rilascio di GPT-4o, che definisce la ‘versione più pericolosa di ChatGPT’ nel 2024. OpenAI ha anche recentemente riconosciuto la scala dei problemi di salute mentale che gli utenti segnalano sulla sua piattaforma. A ottobre, l'azienda ha notato che circa 1,2 milioni dei suoi 800 milioni di utenti settimanali discutono di suicidio, notando che centinaia di migliaia di utenti mostrano segni di intento suicida o psicosi, secondo i dati dell'azienda.

Nonostante la sua dichiarazione, Wade-Scott ha menzionato che OpenAI non ha ancora rilasciato i log della chat di Soelberg. Nel frattempo, la causa arriva in mezzo a un esame più ampio dei chatbot AI e delle loro interazioni con utenti vulnerabili. Lo scorso ottobre, Character.AI ha detto che avrebbe rimosso le sue funzionalità open-ended per gli utenti sotto i 18 anni dopo cause legali e pressioni regolatorie legate ai suicidi di adolescenti e danni emotivi collegati alla sua piattaforma. L'azienda ha anche affrontato critiche dopo un prompt virale quando intendeva lasciare l'app.

La causa contro OpenAI e Microsoft è il primo caso di morte ingiusta che coinvolge un chatbot AI e che nomina Microsoft come convenuto. È anche il primo a collegare un chatbot a un omicidio piuttosto che a un suicidio. L'eredità sta ora cercando danni monetari in somme non divulgate, un processo con giuria e un ordine del tribunale che richiederà a OpenAI di includere ulteriori misure di sicurezza per i suoi utenti. “OpenAI e Microsoft hanno la responsabilità di testare i loro prodotti prima di rilasciarli nel mondo”, ha detto Wade-Scott.