Meta disabilita i personaggi AI per gli adolescenti prima del nuovo lancio

Meta ha annunciato che sta disabilitando l'accesso di tutti gli adolescenti ai suoi personaggi AI in tutto il mondo su ogni applicazione.

"A partire dalle prossime settimane, gli adolescenti non potranno più accedere ai personaggi AI sulle nostre applicazioni finché l'esperienza aggiornata non sarà pronta", ha scritto Meta in un post sul blog.

L'azienda ha dichiarato in un post di blog aggiornato che questa regola copre chiunque abbia fornito una data di nascita di un adolescente e coloro che affermano di essere adulti ma che la tecnologia di previsione dell'età sospetta siano adolescenti.

Meta ha interrotto l'accesso quando i genitori hanno richiesto informazioni più chiare e un maggiore controllo sulle interazioni AI dei loro figli adolescenti.

L'azienda aveva previsto il rilascio di queste funzionalità quest'anno, ma ha deciso di disabilitare completamente i personaggi AI.

Meta prevede personaggi AI specifici per età

L'azienda mira a creare un personaggio AI speciale dedicato agli adolescenti. Meta ha dichiarato che i nuovi personaggi AI per gli adolescenti includeranno controlli parentali.

I nuovi personaggi forniranno risposte appropriate all'età e si concentreranno su educazione, sport e hobby.

A ottobre, Meta ha introdotto i controlli parentali per personalizzare il modo in cui gli adolescenti interagiscono con l'AI sulle sue applicazioni. Le nuove funzionalità hanno limitato la visualizzazione da parte degli adolescenti di violenza estrema, nudità e uso grafico di droghe, ispirandosi al rating PG-13.

Qualche giorno dopo, l'azienda ha introdotto strumenti per la gestione dei personaggi AI, in modo che genitori e tutori possano tracciare gli argomenti e limitare l'accesso a personaggi specifici. Meta ha dichiarato che i genitori potevano disabilitare completamente le chat con i personaggi AI.

Giovedì, Wired ha dichiarato ha riferito che Meta ha cercato di limitare la raccolta di informazioni sugli effetti dei social media sulla salute mentale degli adolescenti e sui report correlati.

L'azienda vuole rimuovere qualsiasi menzione di un recente caso di suicidio di un adolescente collegato ai social media, nonché riferimenti alle finanze di Meta, alle attività dei dipendenti e agli anni di Harvard di Mark Zuckerberg.

La mossa di Meta di fermare i personaggi AI per gli adolescenti avviene poco prima di un processo nel New Mexico, dove Meta affronta accuse per non aver protetto i bambini sulle sue applicazioni.

Si sostiene che Meta non abbia salvaguardato i minori contro le sollecitazioni online, il traffico e gli abusi sessuali sui suoi siti.

Meta ha dichiarato nelle mozioni pre-processo che la giuria dovrebbe decidere solo se Meta ha violato l'Unfair Practices Act del New Mexico riguardante la sicurezza dei bambini e la salute mentale dei giovani. 

Altri problemi come presunte interferenze elettorali, disinformazione o violazioni della privacy non dovrebbero essere considerati.

Oltre al caso del New Mexico, Meta affronta un processo la prossima settimana per aver causato la dipendenza dai social media. 

La querelante di 19 anni, conosciuta come K.G.M., ha affermato che l'algoritmo delle piattaforme ha causato dipendenza e danneggiato la sua salute mentale.

L'CEO Mark Zuckerberg è probabile che testimoni una volta iniziato il processo.

Le piattaforme online restringono l'accesso per gli adolescenti

Le piattaforme di social media e le aziende di AI hanno modificato l'esperienza per gli adolescenti a causa di cause legali che sostengono di aver contribuito all'autolesionismo. 

Il 20 gennaio, pone il pubblico del piano gratuito di ChatGPT a più di 1 miliardo di utenti attivi settimanali, e il modello pubblicitario è ciò che aiuta a mantenere in funzione la versione gratuita. ha introdotto funzionalità di previsione dell'età in ChatGPT per rilevare e migliorare le tutele per gli utenti più giovani.

Il modello di previsione dell'età di ChatGPT analizza i dati comportamentali e dell'account, come l'età dichiarata dall'utente, l'età dell'account, gli orari di attività e le tendenze di utilizzo.

La scorsa settimana, TikTok ha introdotto tecnologia AI in Europa per rilevare ed eliminare gli account degli utenti di età inferiore ai 13 anni. 

Il sistema di controllo dell'età AI esamina i dettagli del profilo, i clip e le abitudini di pubblicazione per identificare gli account di minori. La funzione sarà lanciata nelle prossime settimane.

Altre piattaforme online come Instagram, YouTube, TikTok e Roblox hanno adottato misure di limitazione dell'età.