Google Gemini etichettato ad alto rischio per i giovani utenti in una nuova valutazione

Google Gemini è stato etichettato come "ad alto rischio" per adolescenti e bambini, secondo una recente valutazione del rischio condotta da Common Sense Media. Il gruppo, un'organizzazione non profit focalizzata sulla sicurezza dei bambini, offre valutazioni e recensioni di media e tecnologia. L'ente ha rilasciato la sua recensione venerdì, fornendo dettagli sul motivo per cui ha etichettato la piattaforma come rischiosa per i bambini.

Secondo l'organizzazione, Google Gemini ha chiaramente detto ai bambini che era un computer e non un amico—qualcosa che è stato collegato all'aiuto nel guidare pensieri deliranti e psicosi in individui emotivamente vulnerabili—l'IA ha anche aggiunto che c'era spazio per miglioramenti su altri fronti.

Nel suo rapporto, Common Sense ha affermato che Gemini per le fasce d'età Under 13 e Teen Experience sembrano essere entrambe versioni per adulti dell'IA sottostante. Ha aggiunto che l'azienda ha integrato solo alcune funzionalità di sicurezza aggiuntive per differenziarle.

Common Sense ha notato che per le aziende per rendere i prodotti IA ideali per i bambini, devono essere costruiti da zero pensando ai bambini e non modificati con restrizioni.

Non profit etichetta Google Gemini come ad alto rischio per i bambini

Nella sua analisi, Common Sense ha detto di aver trovato che Gemini poteva ancora condividere materiali inappropriati e non sicuri con i bambini, notando che la maggior parte di loro potrebbe non essere pronta per questi materiali. Ad esempio, ha evidenziato che il modello ha plasmato informazioni relative a sesso, droghe, alcol e altri consigli non sicuri sulla salute mentale. Quest'ultimo potrebbe essere particolarmente preoccupante per i genitori, poiché l'IA avrebbe giocato un ruolo nei casi di autolesionismo adolescenziale negli ultimi mesi.

OpenAI sta attualmente affrontando una causa per morte ingiusta dopo che un adolescente si è suicidato dopo aver consultato ChatGPT per mesi sui suoi piani. I rapporti affermavano che il ragazzo era riuscito a bypassare le barriere di sicurezza del modello, portando il modello a fornire informazioni che lo hanno aiutato.

In passato, il creatore di companion AI Character.AI è stato anche citato in giudizio dopo che un adolescente si è suicidato. La madre del ragazzo ha affermato che è diventato ossessionato dal chatbot e ha passato mesi a parlare con esso prima di farsi del male.

L'analisi arriva mentre diversi leak hanno indicato che Apple starebbe considerando Gemini come il modello linguistico di grandi dimensioni (LLM) che alimenterebbe la sua prossima Siri abilitata per l'IA, prevista per il lancio il prossimo anno.

Nel suo rapporto, Common Sense ha anche menzionato che i prodotti di Gemini per bambini e adolescenti hanno ignorato la necessità di fornire orientamenti e informazioni diversi da quelli forniti agli adulti. Di conseguenza, entrambi sono stati etichettati come ad alto rischio nella valutazione complessiva.

Common Sense sollecita la necessità di proteggere i bambini

"Gemini fa alcune cose basilari correttamente, ma inciampa sui dettagli", ha detto Robbie Torney, Senior Director of AI Programs di Common Sense Media.

"Una piattaforma IA per bambini dovrebbe incontrarli dove sono, non adottare un approccio unico per tutti i bambini a diverse fasi di sviluppo. Perché l'IA sia sicura ed efficace per i bambini, deve essere progettata tenendo conto delle loro esigenze e del loro sviluppo, non come una versione modificata di un prodotto costruito per adulti", ha aggiunto Torney.

Tuttavia, Google ha respinto la valutazione, notando che le sue funzionalità di sicurezza stavano migliorando. L'azienda ha menzionato che ha specifiche misure di sicurezza in atto per guidare gli utenti sotto i 18 anni per prevenire output dannosi. L'azienda ha anche detto che esamina gli elementi e consulta esperti esterni per migliorare le sue protezioni.