Mark Zuck’s Meta permetterà ora ai genitori di bloccare i personaggi IA e di visualizzare gli argomenti delle chat dei teenager

Mark Zuckerberg’s Meta ha annunciato venerdì che lancerà alcuni nuovi controlli parentali per aiutare i genitori a gestire come i teenager interagiscono con i personaggi IA sulle sue piattaforme.

I genitori potranno presto disattivare le chat one-to-one, bloccare specifici bot IA e vedere quali argomenti discutono con loro i propri figli. L'azienda ha dichiarato che queste funzionalità sono ancora in sviluppo e inizieranno a essere implementate all'inizio del prossimo anno.

“Fare aggiornamenti che colpiscono miliardi di utenti sulle piattaforme Meta è qualcosa che dobbiamo fare con cura, e avremo altro da condividere presto”, ha dichiarato Meta in una dichiarazione pubblicata sul suo blog. L'annuncio arriva mentre l'azienda affronta una crescente scrutinio sulla sicurezza dei teenager e sui problemi di salute mentale legati alle sue app.

La Federal Trade Commission (FTC) ha aperto un'inchiesta su diversi giganti della tecnologia, tra cui Meta, per comprendere come i chatbot IA potrebbero impattare sui bambini. La FTC ha dichiarato di voler sapere quali misure le aziende hanno adottato per “valutare la sicurezza di questi chatbot quando agiscono come compagni.”

L'indagine arriva dopo anni di preoccupazione pubblica su come le piattaforme sociali gestiscono l'esposizione dei giovani a conversazioni con l'IA che potrebbero diventare inopportune o dannose.

Meta affronta le critiche dopo che i bot IA hanno chattato romanticamente con i bambini

Ad agosto, Reuters aveva riportato che alcuni chatbot Meta erano in grado di intrattenere conversazioni romantiche e sensuali con i minori. Uno degli esempi citati era una chat romantica tra un bot IA e un bambino di otto anni. La relazione ha suscitato indignazione e ha costretto l'azienda a rispondere immediatamente.

Dopo ciò, Meta ha aggiornato le sue politiche sui chatbot. L'azienda ora blocca i suoi sistemi IA dal discutere di autolesionismo, suicidio, disturbi alimentari e contenuti romantici o sessuali quando interagisce con i teenager. Ha anche dichiarato che nuove salvaguardie sono state introdotte questa settimana per impedire ai suoi IA di produrre “risposte inopportune per l'età che sembrerebbero fuori luogo in un film PG-13.”

Questi aggiornamenti sono già in fase di rollout negli Stati Uniti, nel Regno Unito, in Australia e in Canada. L'azienda ha aggiunto che i teenager possono parlare solo con un insieme limitato di personaggi IA, e i genitori hanno già strumenti per impostare limiti di tempo e monitorare le chat IA.

OpenAI si unisce a Meta sotto la luce dei riflettori della FTC

OpenAI, anch'essa nominata nell'inchiesta della FTC, sta affrontando lo stesso tipo di domande sulla sicurezza dei teenager e sul comportamento dei chatbot. L'azienda ha recentemente rilasciato i propri controlli parentali e sta sviluppando una tecnologia di previsione dell'età per applicare automaticamente le impostazioni appropriate per i teenager agli utenti sotto i 18 anni.

I genitori riceveranno persino avvisi se i propri figli mostrano segni di disagio emotivo durante la chat.

All'inizio di questa settimana, OpenAI ha lanciato un consiglio di otto esperti per guidare il suo approccio alla salute mentale e all'interazione con l'IA. Questi specialisti provengono da campi come la psichiatria, la psicologia e l'interazione uomo-computer.

L'azienda ha dichiarato di aver consultato informalmente gli esperti prima di rendere ufficiale il consiglio. Il loro primo incontro si è tenuto la scorsa settimana durante una sessione di persona.

L'inchiesta della FTC su OpenAI segue anche una causa per morte ingiusta presentata da una famiglia che attribuisce a ChatGPT il suicidio di loro figlio teenager. L'azienda dice di lavorare ora con clinici della Global Physician Network per aiutare a testare ChatGPT e stabilire nuove politiche di sicurezza per proteggere meglio i giovani utenti.

Sia Meta che OpenAI si trovano ora costrette a stringere il controllo su come i loro IA parlano con i teenager. La combinazione di rabbia pubblica, pressione normativa e tragiche conseguenze nel mondo reale ha reso impossibile per queste aziende ignorare i rischi oltre.