Il governatore della California, Gavin Newsom, ha firmato lunedì un nuovo disegno di legge che stabilisce chiare misure di salvaguardia per le tecnologie nuove ed emergenti, come l'intelligenza artificiale. La nuova legislazione mira a rafforzare ulteriormente la protezione dei minori online nell'utilizzo di chatbot basati sull'intelligenza artificiale.
La legge include misure di salvaguardia per i chatbot, come la verifica dell'età, protocolli per affrontare il suicidio e l'autolesionismo, avvertenze sui social media e sui chatbot di accompagnamento e sanzioni severe per chi trae profitto dai deepfake illegali. Il governatore ritiene che l'iniziativa contribuirà a garantire che la sicurezza dei bambini rimanga al centro dell'attenzione in California.
Newsom ha osservato che le tecnologie emergenti come i chatbot e i social media possono ispirare, educare e connettere, ma è necessario stabilire dei limiti concreti, poiché la tecnologia può anche sfruttare, ingannare e mettere in pericolo i bambini. Ha sostenuto che la California può continuare a essere all'avanguardia nell'intelligenza artificiale e nella tecnologia, ma deve farlo in modo responsabile.
La prima collaboratrice del governatore, Jeniffer Siebel Newsom, crede che tutto ciò che le persone fanno inizi dai loro figli: dalla loro sicurezza, dalla loro salute e dal loro benessere. Ha affermato che, sebbene la California sia sempre stata all'avanguardia nell'innovazione, la vera leadership significa anche stabilire dei limiti per i bambini quando è più importante. Siebel ha aggiunto che la legislazione stabilisce delle barriere che proteggono la salute e la sicurezza dei bambini, garantendo al contempo che l'innovazione proceda in modo responsabile.
"Abbiamo assistito ad alcuni esempi davvero orribili e tragici di giovani danneggiati da tecnologie non regolamentate, e non resteremo a guardare mentre le aziende continuano a operare senza i necessari limiti e responsabilità. La sicurezza dei nostri figli non è in vendita."
–Gavin Newsom, governatore della California.
La California è costantemente all'avanguardia nella protezione dei bambini dai pericoli delle tecnologie emergenti. Lo Stato ha già firmato altre leggi per proteggere i bambini dalla dipendenza dai social media, imponendotronrequisiti di privacy e adottando misure di trasparenza all'avanguardia a livello nazionale.
La legge mira a creare nuove garanzie per i chatbot basati sull'intelligenza artificiale, stabilendo che questi debbano creare protocolli per identificaredentaffrontare i pensieri suicidi o le manifestazioni di autolesionismo degli utenti. Il disegno di legge impone inoltre alle piattaforme di dichiarare che le interazioni sono generate artificialmente.
Secondo il disegno di legge, le piattaforme di chatbot devono fornire promemoria per le pause e impedire ai bambini di visualizzare immagini sessualmente esplicite generate dal chatbot. I chatbot saranno inoltre tenuti a condividere con il Dipartimento della Salute Pubblica i protocolli per contrastare l'autolesionismo e le statistiche sulla frequenza con cui inviano agli utenti notifiche di prevenzione al centro di crisi. In base alla nuova legislazione, ai chatbot è vietato presentarsi come professionisti sanitari.
Il nuovo disegno di legge impone ai sistemi operativi e ai fornitori di app store di dotarsi di protocolli di verifica dell'età per impedire ai bambini di accedere a contenuti online inappropriati o pericolosi. Le piattaforme di chatbot dovranno inoltre visualizzare etichette di avvertenza sui social media per informare i giovani utenti sui potenziali danni associati all'uso prolungato delle piattaforme di social media.
La nuova legislazione prevedetronsevere sanzioni per la pornografia deepfake nei chatbot, tra cui un risarcimento civile per le vittime fino a 250.000 dollari per azione contro terzi che consapevolmente facilitano o aiutano nella distribuzione di materiale sessualmente esplicito consensuale. Newsom ha inoltre sollecitato linee guida contro il cyberbullismo, richiedendo al Dipartimento dell'Istruzione della California (CDE) di adottare una politica modello per affrontare gli atti di cyberbullismo segnalati che si verificano al di fuori dell'orario scolastico entro il 1° giugno 2026. Richiede inoltre alle agenzie scolastiche locali di adottare la politica risultante o una politica simile sviluppata con il contributo locale.
Il governatore Newsom ha anche chiesto una chiara assunzione di responsabilità per i danni causati dalla tecnologia di intelligenza artificiale. L'iniziativa mira a impedire che coloro che sviluppano, modificano o utilizzano l'intelligenza artificiale possano sottrarsi alla responsabilità affermando che la tecnologia ha agito in modo autonomo.
Sono state approvate diverse altre proposte di legge per proteggere i minori e migliorare la sicurezza della tecnologia e delle piattaforme online. Tra queste, "Social media: etichette di avvertimento" della deputata Rebecca Bauer-Kahan, "Difese tramite intelligenza artificiale" della deputata Maggie Krell, "Pornografia Deepfake" del deputato Josh Lowenthal di Long Beach, "Cancellazione dell'account" della deputata Pilar Schiavo, "California Cybersecurity Integration Center: intelligenza artificiale" della deputata Jacqui Irwin e altre ancora.
