OpenAI sta sviluppando un nuovo ChatGPT specificamente per gli adolescenti

OpenAI ha annunciato che sta sviluppando una versione di ChatGPT dedicata agli adolescenti, una mossa che ritiene necessaria per trovare un equilibrio tra sicurezza, privacy e libertà.

L'azienda con sede a San Francisco, nota per aver spinto l'intelligenza artificiale verso il grande pubblico, ha dichiarato martedì che avrebbe introdotto quella che ha descritto come "un'esperienza ChatGPT diversa" per gli utenti di età inferiore ai 18 anni. Ciò avviene in un momento di forte pressione da parte di enti regolatori, politici e genitori che hanno chiesto un controllo più approfondito sull'impatto dei chatbot basati sull'intelligenza artificiale sulla salute mentale dei giovani.

Il nuovo ChatGPT avrà delle barriere di protezione per proteggere gli adolescenti

Il CEO di OpenAI, Sam Altman, ha riconosciuto che l'azienda ha dovuto affrontare difficili compromessi.

"Alcuni dei nostri principi sono in conflitto", ha scritto in un post sul blog. "Per noi la sicurezza è prioritaria rispetto alla privacy e alla libertà degli adolescenti; si tratta di una tecnologia nuova e potente e crediamo che i minori necessitino di una protezione significativa"

OpenAI ha a lungo richiesto agli utenti di avere almeno 13 anni, ma ora intende sviluppare un sistema di previsione dell'età più rigoroso per distinguere gli adulti dai minori di 18 anni. In caso di incertezza, "per eccesso di cautela", l'utente verrà automaticamentematicalla versione specifica per adolescenti.

Questa esperienza non solo sarà più strettamente supervisionata, ma darà anche ai genitori un ruolo più centrale. Attraverso il collegamento degli account, madri e padri potranno gestire l'accesso dei propri figli, limitare funzionalità come la memoria e la cronologia delle chat e impostare orari di blackout durante i quali il sistema non sarà utilizzabile. I genitori saranno inoltre avvisati se la piattaforma rileva segnali di "grave disagio".

L'azienda ha rivelato ulteriori limitazioni, come il divieto per gli adolescenti di civettare con ChatGPT, né di rispondere a domande su suicidio o autolesionismo, nemmeno nell'ambito della scrittura creativa. Se un bambino manifesta pensieri suicidi, l'azienda afferma che tenterà innanzitutto di avvisare i genitori e, se necessario, di informare le autorità.

"Si tratta di decisioni difficili, ma dopo aver parlato con gli esperti, riteniamo che questa sia la soluzione migliore", ha scritto OpenAI.

OpenAI agisce in un contesto di intensificazione dei controlli normativi

Questa nuova proposta di sviluppo arriva mentre si avvicina l'udienza del Senato degli Stati Uniti per esaminare i rischi che l'intelligenza artificiale rappresenta per gli adolescenti. La discussione bipartisan sarà guidata dal senatore repubblicano del Missouri Josh Hawley, insieme ai senatori Marsha Blackburn, Katie Britt, Richard Blumenthal e Chris Coons.

La scorsa settimana, nel tentativo di ottenere risposte, la Federal Trade Commission ha avviato un'indagine su OpenAI, Alphabet, Meta, xAI, Snap e Character.AI. La Commissione richiede informazioni sulle misure adottate da ciascuna azienda per tutelare i minori. Recentemente, come riportato da Cryptopolitan, anche una valutazione del rischio condotta da Common Sense Media ha classificato Google Gemini come "ad alto rischio" per adolescenti e bambini.

Le cause legali stanno aumentando la pressione, con genitori in tutti gli Stati Uniti che hanno presentato denunce accusando le aziende tecnologiche di progettare prodotti che creano dipendenza e danneggiano il benessere mentale dei bambini. Questa ondata di azioni legali ha già costretto aziende come YouTube a creare alternative più adatte ai minori.

Sebbene OpenAI stia compiendo sforzi per rendere ChatGPT più sicuro per i minorenni, non vi è alcuna garanzia che l'iniziativa avrà successo, poiché i giovani esperti di tecnologia potrebbero aggirare i controlli parentali e cercare versioni non filtrate di app popolari.

"Dobbiamo separare gli utenti che hanno meno di 18 anni da quelli che non li hanno."

OpenAI.

"In caso di dubbi, andremo sul sicuro", ha spiegato l'azienda nella sua dichiarazione pubblica.

Gli osservatori del settore notano che, nonostante gli sforzi benintenzionati, gli adolescenti spesso trovano "soluzioni alternative" per accedere alle piattaforme più diffuse. La dipendenza di OpenAI dai genitori per monitorare le attività, affermano, potrebbe diventare un punto critico.

La nuova iniziativa fa parte di un impegno più ampio da parte di OpenAI per introdurre piùtronper i giovani e per coloro che vivono situazioni di disagio emotivo entro la fine dell'anno.

Come ha affermato Altman, "Si tratta di una tecnologia nuova e potente e crediamo che i minori necessitino di una protezione significativa"