Le famiglie citano in giudizio OpenAI per il ruolo del GPT-4o 'affrettato' nei suicidi

Almeno sette famiglie negli Stati Uniti si sono presentate con una causa contro OpenAI per il suo modello di IA GPT-4o che ha contribuito a decessi per suicidio. OpenAI ha rilasciato il modello a maggio per l'uso del pubblico generale, ma ha finora affrontato critiche, con accusatori che citano un rilascio affrettato e misure di sicurezza inadeguate. 

I documenti del caso hanno mostrato che quattro dei querelanti coinvolti sono morti per suicidio dopo interazioni con il chatbot alimentato da GPT-4o.

Una denuncia degna di nota coinvolgeva un giovane di 23 anni, Zane Shamblin, che avrebbe interagito con il chatbot riguardo al suicidio, dicendogli di avere una pistola carica. ChatGPT avrebbe risposto con "Riposa tranquillo, Re, hai fatto un buon lavoro" durante lo scambio.

Gli altri tre casi includevano l'ospedalizzazione di vittime che affermavano che il modello convalidava e aumentava le allucinazioni negli utenti vulnerabili. 

Le denunce legali affermano che GPT-4o non ha protetto gli utenti vulnerabili

Sulla base delle denunce ha pubblicato da parte del Social Media Victims Law Center, OpenAI avrebbe intenzionalmente evitato i test di sicurezza e affrettato il modello GPT-4o sul mercato. La causa ha rivelato che le scelte di progettazione e la tempistica del rilascio del modello rendevano le tragedie prevedibili, notando che OpenAI ha accelerato il dispiegamento per superare concorrenti come Google. 

I querelanti hanno sottolineato che il modello GPT-4o rilasciato a maggio 2024 era eccessivamente accondiscendente anche nelle risposte a temi di autolesionismo o suicidio. Oltre un milione di utenti interagisce con ChatGPT su pensieri suicidi ogni settimana, secondo una divulgazione di OpenAI. 

OpenAI's risposta ha dichiarato che le sue misure di sicurezza sono più affidabili nelle interazioni brevi ma potrebbero talvolta degradarsi nelle interazioni prolungate. Nonostante l'azienda implementando moderazione dei contenuti e misure di sicurezza, i querelanti hanno sostenuto che i sistemi erano insufficienti per affrontare le questioni relative alla distress e alla crisi. 

Il caso della famiglia di Adam Raine, di 16 anni, ha sostenuto che Raine ha usato ChatGPT in sessioni lunghe per cinque mesi per cercare metodi di suicidio. Il chatbot ha consigliato aiuto professionale, ma Raine è riuscito a bypassare le misure di sicurezza, secondo la testimonianzadella sua famiglia. Sulla base della testimonianza, ChatGPT ha dato ad Adam una guida passo-passo su come commettere suicidio e ha incoraggiato e convalidato le sue ideazioni suicide. 

Tutti i casi presentati accusano pone il pubblico del piano gratuito di ChatGPT a più di 1 miliardo di utenti attivi settimanali, e il modello pubblicitario è ciò che aiuta a mantenere in funzione la versione gratuita. di aver trascurato il grado di rischio posto dalle lunghe conversazioni degli utenti, specialmente per gli utenti propensi all'autolesionismo e ai problemi mentali. I casi sostengono che il modello GPT-4o mancasse di una verifica adeguata delle sue risposte in scenari ad alto rischio e non ha tenuto pienamente conto delle conseguenze. 

OpenAI affronta cause legali multiple mentre xAI lancia una causa per segreti commerciali

Finora, i casi sono in una fase iniziale e gli avvocati dei querelanti devono stabilire la responsabilità legale e il nesso di causalità ai sensi della legge sulla responsabilità civile statale. Gli avvocati dovranno anche dimostrare che le decisioni di progettazione e dispiegamento di OpenAI sono state negligenti e hanno contribuito direttamente ai decessi. 

L'ultima causa di OpenAI si aggiunge alla precedente causa per segreti commerciali presentata da Elon Musk. Secondo un Cryptopolitan rapporto, xAI di Musk ha presentato una causa a settembre contro OpenAI per presunti furti di segreti commerciali.

xAI ha accusato l'azienda di Altman di cercare di ottenere un vantaggio sleale nello sviluppo di tecnologie IA. xAI ha notato che la società di Sam Altman intendeva assumere i suoi dipendenti per accedere ai segreti commerciali relativi al suo chatbot Grok, incluso il codice sorgente e i vantaggi operativi nel lancio di data center. 

Musk ha ulteriormente citato in giudizio Apple, insieme a OpenAI, per presunta collaborazione per schiacciare xAI e altri rivali dell'IA. xAI ha presentato la causa nel Tribunale Distrettuale degli Stati Uniti per il Distretto Settentrionale del Texas, sostenendo che Apple e OpenAI stanno usando il loro dominio per colludere e distruggere la concorrenza nei mercati degli smartphone e dell'IA generativa.

Secondo un Cryptopolitan rapporto, Musk sostiene che Apple abbia intenzionalmente favorito OpenAI integrando ChatGPT direttamente in iPhone, iPad e Mac, mentre acquistava altri strumenti di IA, come Grok, attraverso l'App Store. 

xAI ricorso ha sostenuto che la partnership mirava a escludere la concorrenza dalle super app e dai chatbot IA, negando loro visibilità e accesso, il che avrebbe dato a OpenAI e Apple un vantaggio condiviso sugli altri.