ULTIME NOTIZIE
SELEZIONATO PER TE

OpenAI lancia il sistema di allerta ChatGPT dopo una ondata di cause legali per suicidio

DiRanda MosesRanda Moses 2 min di lettura
OpenAI lancia un sistema di allerta ChatGPT dopo una serie di cause legate al suicidio.
  • OpenAI ha lanciato Trusted Contact, una funzione opzionale di ChatGPT che avvisa un contatto selezionato dall'utente quando le conversazioni suggeriscono un serio rischio di autolesionismo.
  • Ogni allarme viene esaminato da personale umano prima di essere inviato e nessun transcript della chat viene condiviso con il contatto.
  • La funzione arriva mentre OpenAI affronta cause legali multiple che affermano che le interazioni con ChatGPT hanno contribuito ai suicidi degli utenti.

OpenAI ha lanciato Trusted Contact mercoledì. La funzione permette agli utenti adulti di ChatGPT di scegliere qualcuno che riceverà un avviso se i sistemi dell'azienda segnalano una conversazione su serio autolesionismo.

È un'espansione dei controlli parentali lanciati da OpenAI a settembre 2025, che permettevano ai genitori di monitorare gli account dei propri figli. Ora chiunque abbia 18 anni o più può optare per questa funzione, secondo l'annuncio di OpenAI.

Come funzionano realmente gli avvisi di OpenAI

L'utente inizia aggiungendo un adulto come Contatto Fidato nelle impostazioni di ChatGPT. Il potenziale “contatto fidato” riceve un invito che spiega l'impostazione e ha una settimana per accettare. Se accetta, l'utente può scegliere qualcun altro.

Quando il monitoraggio automatico rileva una potenziale conversazione sull'autolesionismo, ChatGPT informa l'utente che potrebbe notificare i suoi contatti. Suggerisce anche modi per l'utente di contattare direttamente.

Poi un team di revisori umani esamina la conversazione. Se confermano che è seria, inviano un breve avviso al contatto dell'utente via email, SMS o notifica in-app.

L'avviso non include ciò che ha detto l'utente. Solo il motivo generale e un link alle linee guida su come affrontare le difficoltà. OpenAI dichiara che la revisione umana si conclude entro un'ora.

L'utente può sostituire o rimuovere il contatto selezionato in qualsiasi momento. Il contatto può anche ritirarsi dalla propria parte.

I medici hanno aiutato a costruire la funzione Trusted Contact di OpenAI

OpenAI afferma di aver lavorato con la sua Global Physicians Network (oltre 260 medici autorizzati in 60 paesi) e il suo Expert Council on Well-Being and AI. L'American Psychological Association ha fornito il suo contributo.

, “La scienza psicologica mostra costantemente che la connessione sociale è un potente fattore protettivo, specialmente durante i periodi di disagio emotivo”, ha dichiarato il Dr. Arthur Evans, CEO dell'American Psychological Association, nell'annuncio.

, “Aiutare le persone a identificare una persona fidata in anticipo, preservando la loro scelta e autonomia, può rendere più facile chiedere aiuto al supporto del mondo reale quando è più necessario.”

Il Dr. Munmun De Choudhury, professore alla Georgia Tech e membro del consiglio, l'ha definita “un passo avanti verso l'empowerment umano, specialmente nei momenti di vulnerabilità.”

OpenAI affronta pressioni dalle cause legali per suicidio legate all'AI

Il tempismo non è casuale. OpenAI sta affrontando una serie di cause legali da parte di famiglie i cui parenti sono morti per suicidio dopo lunghe sessioni su ChatGPT. In diversi casi, le famiglie affermano che il chatbot ha detto agli utenti di allontanarsi dai propri cari o ha insistito sui cicli di pensiero dannosi.

LLMDeathCount, un sito che traccia le morti legate ai chatbot AI, elenca 33 casi da marzo 2023 a maggio 2026. Le vittime avevano età compresa tra 13 e 83 anni, secondo la copertura precedente di Cryptopolitan. ChatGPT rappresenta 24 di questi casi. Google Gemini, Meta e altre piattaforme costituiscono il resto.

La nuova funzione di OpenAI è opt-in, e gli utenti possono gestire più account ChatGPT. Chiunque non attivi Trusted Contact, o che semplicemente accede a un account diverso, aggira completamente la questione. Lo stesso vale per i controlli parentali.

Trusted Contact non sostituisce nemmeno le linee di crisi. ChatGPT continua a mostrare i numeri di crisi locali e spinge gli utenti verso i servizi di emergenza quando le conversazioni raggiungono livelli di disagio acuto, secondo OpenAI.

La funzione Trusted Contact di OpenAI collega gli utenti AI al supporto del mondo reale. L'azienda ha dichiarato che continuerà a lavorare con clinici, ricercatori e legislatori su come l'AI dovrebbe rispondere quando gli utenti potrebbero essere in crisi.

Se stai leggendo questo, sei già avanti. Resta così con la nostra newsletter.

Domande frequenti

Cos'è la funzione Trusted Contact di OpenAI?

Trusted Contact è uno strumento di sicurezza di ChatGPT che consente agli utenti adulti di designare un amico o un familiare per ricevere una notifica se i sistemi automatizzati e i revisori umani di OpenAI rilevano gravi preoccupazioni relative all'autolesionismo nelle conversazioni dell'utente.

Il Trusted Contact vede la cronologia delle chat dell'utente?

No. La notifica non include dettagli o transcript delle chat. Condividi solo una ragione generale dell'allarme e link a linee guida esperte su come avere conversazioni sensibili.

Quanti decessi sono stati collegati ai chatbot AI?

LLMDeathCount, un sito web di monitoraggio, elenca 33 decessi collegati alle interazioni con chatbot AI dal marzo 2023 al maggio 2026, con vittime di età compresa tra 13 e 83 anni. ChatGPT di OpenAI rappresenta 24 di questi casi.

Condividi questo articolo

Disclaimer. Le informazioni fornite non costituiscono consulenza finanziaria. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti basati sulle informazioni presenti in questa pagina. Si raccomanda vivamente di effettuare ricerche autonome e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.

Randa Moses

Randa Moses

Randa Moses è un'editor e giornalista presso Cryptopolitan, dove si occupa di tecnologia, intelligenza artificiale, robotica, criptovalute, truffe e hacking. Opera nel settore delle criptovalute dal 2017. Ha ricoperto ruoli in Forward Protocol, AmaZix e Cryptosomniac. Randa è laureata in Ingegneria Elettrica ed Elettronica presso l'Università di Bradford.

ALTRE NOTIZIE …