ChatGPT per adolescenti: i genitori sono stati avvisati in ritardo o mai, secondo Common Sense

Mercoledì, Common Sense Media ha affermato che ChatGPT rappresenta un "Rischio Inaccettabile" per chiunque abbia meno di 18 anni.

Ai genitori sarebbe dovuto arrivare un avviso da OpenAI riguardo alle chat pericolose, ma i tester di Common Sense affermano che gli avvisi sono stati ritardati o non sono mai arrivati.

Le notifiche hanno mancato l'obiettivo di un'ora stabilito da OpenAI per ogni durata della chat

L'avvio del 18 agosto 2026 di ChatGPT for Teens prometteva ai genitori avvisi sulle chat pericolose.

I tester dell'Youth AI Safety Institute del gruppo hanno espresso pensieri suicidi, autolesionismo o disturbi alimentari su oltre una dozzina di nuovi account collegati ai genitori, senza ricevere alcun avviso.

Ogni volta che la chat è durata da cinque minuti a un'ora, nessun account ha ricevuto un avviso entro l'obiettivo di un'ora fissato da OpenAI. I genitori sono stati notificati solo quando un account presentava settimane di cronologia con argomenti sensibili.

Quando questo tipo di account è stato testato nelle settimane precedenti al lancio, ha inviato due avvisi. Il primo avviso è stato inviato tre ore dopo la prima rivelazione a livello di crisi. Il secondo avviso è stato inviato tre giorni dopo.

Sono stati inviati due avvisi nell'arco di un'ora per un account separato post-lancio con una lunga cronologia. Common Sense ha dichiarato che gli avvisi considerano la quantità di cronologia di un account, non la gravità delle parole di un adolescente.

Common Sense ha avvertito che la funzione potrebbe instillare una "falsa fiducia nelle barriere di sicurezza che spesso non funzionano".

I ricercatori hanno trattato il lancio di agosto come un esperimento naturale, eseguendo oltre 4.000 prompt su ChatGPT prima e dopo l'attivazione della modalità adolescente.

Dopo il lancio, i tester hanno segnalato i momenti in cui un adolescente avrebbe dovuto essere indirizzato a una linea di crisi o a un aiuto professionale. ChatGPT ha saltato questo passaggio più di una volta ogni quattro.

Common Sense richiede ai chatbot un tasso di superamento del 95% su cinque gravi danni definiti come Linee Rosse. ChatGPT è rimasto al di sotto di questa soglia in tre di essi.

OpenAI ha aggiornato le specifiche del suo modello AI per minori di 18 anni per impedire al bot di agire come un compagno. Tuttavia, gli adolescenti che interagivano con esso come se fosse una persona hanno comunque ricevuto risposte amichevoli.

Un pulsante "Mostrami la risposta" permette a un adolescente di saltare direttamente la tutoraggio della modalità Studio. Eliminare il prefisso "@study" da una chat consente di uscire dalle Ore di Studio impostate dai genitori.

Gli account di test registrati come adulti non sono mai passati alla modalità adolescente nel corso di molti giorni, anche quando un tester dichiarava di avere 13 anni e il bot lo riconosceva.

OpenAI afferma che l'utilizzo giornaliero degli adolescenti rimane inferiore a 15 minuti

OpenAI ha dichiarato che i test non riflettono "accuratamente" il funzionamento delle sue funzionalità di sicurezza per gli adolescenti. L'azienda ha precisato che l'associazione degli account può richiedere diverse ore prima che gli avvisi diventino attivi, garantendo così la sicurezza degli account e consentendo al sistema di gestire il carico.

Common Sense ha affermato che nessuno dei suoi account, nemmeno quelli associati da tempo, ha inviato avvisi tempestivi.

Il primo rapporto di OpenAI sull'uso di ChatGPT da parte degli adolescenti è stato pubblicato lo stesso giorno. L'azienda ha dichiarato che l'utilizzo medio degli adolescenti è inferiore a 15 minuti al giorno e che meno del 2% degli adolescenti rimane connesso per più di tre ore consecutive.

OpenAI ha indicato che in quasi la metà delle chat con adolescenti contrassegnate da un avviso di pausa, gli utenti hanno interrotto o abbandonato la sessione entro cinque minuti. Più di 180.000 adolescenti hanno utilizzato la Modalità Studio e circa 1,2 milioni hanno sfruttato le Visualizzazioni di Apprendimento in una sola settimana.

OpenAI ha segnalato che gli adolescenti che hanno utilizzato la nuova modalità hanno inviato in media circa 2,7 milioni di messaggi di apprendimento aggiuntivi rispetto a coloro che erano ancora in attesa dell'accesso.

Negli Stati Uniti, gli studenti del decimo, undicesimo e dodicesimo anno potranno utilizzare College Planner per creare un piano completo che delinei tutti i passaggi necessari per le domande di ammissione, le scadenze importanti per la presentazione della documentazione e le opzioni di aiuto finanziario disponibili.

Per i prossimi tre anni, OpenAI supporterà anche il Digital Wellness Lab del Boston Children’s Hospital. Circa 22 studenti forniranno feedback sulle impostazioni predefinite di sicurezza, sui controlli parentali e sulle notifiche.

Cryptopolitan afferma che OpenAI e Common Sense Media hanno collaborato a una misura referendaria in California nel gennaio scorso per rendere l'IA più sicura per i bambini. OpenAI avrebbe dovuto contribuire con almeno 10 milioni di dollari a questa iniziativa congiunta.

James Uthmeier, procuratore generale della Florida, ha presentato a giugno la prima causa intentata dallo Stato contro OpenAI e il suo CEO, Sam Altman. Cryptopolitan ha riportato che nella sua denuncia di 83 pagine si sostiene che ChatGPT abbia contribuito al suicidio di Adam Raine, un quindicenne.