OpenAI sostiene il gruppo per la sicurezza dei bambini nella lotta per il ballot sull'AI

OpenAI e Common Sense Media, che erano in disaccordo sulla politica tecnologica, hanno annunciato venerdì che uniranno le forze su una proposta di ballot mirata a proteggere i bambini che utilizzano chatbot di intelligenza artificiale in California.

I due gruppi hanno detto che ritireranno le proposte separate che avevano pianificato di sottoporre agli elettori della California questo novembre. Invece, sosterranno una singola misura sviluppata insieme.

L'accordo impedisce quella che sarebbe potuta essere una costosa battaglia politica tra le due organizzazioni, con OpenAI che prevede di contribuire con non meno di 10 milioni di dollari per far inserire la misura nel ballot, secondo due persone a conoscenza dell'accordo.

La nuova proposta darebbe ai genitori un maggiore potere su come i loro figli utilizzano i chatbot di AI. Tuttavia, esclude alcune disposizioni che Common Sense Media voleva nella sua versione originale. Questi elementi rimossi includono un divieto di cellulari nelle scuole e una clausola che avrebbe permesso ai genitori e ai bambini di intraprendere azioni legali contro le principali aziende di AI se i chatbot avessero causato danni.

“Piuttosto che confondere gli elettori con iniziative elettorali concorrenti sull'IA, abbiamo deciso di lavorare insieme”, ha detto Jim Steyer, che ha fondato e gestisce Common Sense Media. Ha parlato dell'accordo a una conferenza stampa venerdì.

Ottenere la misura davanti agli elettori richiede circa 875.000 firme dai residenti della California. Chris Lehane, che si occupa di questioni di politica globale per OpenAI, ha detto che le due parti avrebbero creato un'organizzazione di campagna per raccogliere firme a partire dall'inizio di febbraio. Sia Lehane che Steyer hanno notato che potrebbero ritirare la proposta se i legislatori della California agissero rapidamente per approvare una legislazione che affronti la sicurezza dei chatbot per i bambini.

Questa partnership segna un cambiamento per due organizzazioni che spesso si sono trovate su lati opposti riguardo alle questioni tecnologiche.

Common Sense Media si è affermata come un attore principale che spinge per regole che governino le aziende tecnologiche in tutto gli Stati Uniti. L'organizzazione ha contribuito a creare la California Consumer Privacy Act nel 2018. Solo il mese scorso, ha sostenuto una legge di New York che richiede etichette di avvertimento sulla salute mentale su alcuni siti di social media.

Il gruppo si è anche espresso chiaramente sulla regolamentazione dei chatbot AI. Lo scorso anno, ha sostenuto un disegno di legge della California che avrebbe impedito ai popolari chatbot di compagnia AI di parlare con i bambini a meno che questi programmi non fossero “prevedibilmente capaci” di avere conversazioni sessualmente esplicite o di promuovere comportamenti dannosi come l'autolesionismo, la violenza e i disturbi alimentari.

I gruppi del settore tecnologico hanno combattuto contro quel disegno di legge

Il governatore Gavin Newsom, un democratico, lo ha respinto, definendolo troppo restrittivo.

Newsom ha detto che voleva che i legislatori affrontassero la questione nel 2026, ma ha aggiunto che lo stato “non può preparare i nostri giovani per un futuro in cui l'IA è onnipresente impedendo loro di utilizzare questi strumenti del tutto.”

Common Sense Media ha presentato la sua proposta di iniziativa elettorale a ottobre, utilizzando il disegno di legge bocciato come modello. OpenAI ha risposto presentando a dicembre la propria iniziativa, più limitata, sulla sicurezza dei minori.

OpenAI ha creato un team focalizzato sulle iniziative elettorali della California durante l'estate, prevedendo resistenze ai suoi piani di modificare la struttura organizzativa, secondo persone a conoscenza della situazione.

La Camera di Commercio della California, i cui membri includono aziende tecnologiche ricche come Google, Meta e Amazon.com, ha votato a dicembre per opporsi a ciò che Common Sense Media aveva proposto.

Lo stesso mese, Lehane si è seduto con Steyer e ha suggerito di trovare un compromesso.

Le due organizzazioni erano in discussione da oltre un anno e avevano già un accordo per collaborare su linee guida e materiali didattici sull'IA. Durante i colloqui su un possibile compromesso, OpenAI ha sviluppato concetti sulla sicurezza dei minori che il leader di OpenAI Sam Altman aveva discusso con il Procuratore Generale della California Rob Bonta a settembre. Questi includevano i piani dell'azienda per creare tecnologia per identificare gli utenti di età inferiore ai 18 anni.

Cosa richiederebbe la nuova misura

L'iniziativa di voto aggiornata, che sostituirà la precedente presentazione di OpenAI, costringerebbe le aziende di AI a fornire una versione diversa del loro servizio agli utenti identificati come minori di 18 anni, anche se questi utenti affermano di essere più anziani. Richiederebbe anche alle aziende di fornire controlli parentali, sottoporsi a revisioni indipendenti sulla sicurezza dei minori e interrompere la pubblicità rivolta ai bambini, insieme ad altri requisiti.

Il compromesso aiuta OpenAI, che ha affrontato cause legali da diverse famiglie nell'ultimo anno, sostenendo che le interazioni con ChatGPT hanno danneggiato i loro familiari, inclusi giovani che si sono suicidati.

OpenAI ha definito le situazioni descritte in quelle cause legali “una situazione incredibilmente straziante” e ha menzionato i recenti aggiornamenti apportati a ChatGPT per una migliore gestione degli utenti che sperimentano disagio mentale.

Nel novembre, Common Sense Media ha pubblicato una recensione affermando che i chatbot di AI, inclusi ChatGPT, Gemini di Google, Claude di Anthropic e Meta AI di Meta Platforms, erano "fondamentalmente insicuri per il supporto alla salute mentale degli adolescenti."

Steyer, che ha fondato la sua organizzazione nel 2003, ha costantemente cercato di bilanciare il confronto con le aziende tecnologiche e dei media mentre lavorava anche con loro su questioni di sicurezza.