Il disegno di legge sulla regolamentazione dell'intelligenza artificiale in California avanza sulla scrivania del governatore

Un disegno di legge molto dibattuto che regolamenta l'intelligenza artificiale (IA) ha superato un ostacolo significativo nella legislatura della California. SB-1047, un disegno di legge che mira a regolamentare i grandi modelli di IA per motivi di sicurezza, è stato approvato dall'Assemblea dello Stato della California con 45 voti favorevoli e 11 contrari. 

Si prevede che il disegno di legge, approvato dal Senato dello Stato a maggio con 32 voti a favore e 1 contrario, supererà un'altra votazione procedurale al Senato prima di essere inviato alla firma del governatore Gavin Newsom. 

Gli esperti di intelligenza artificiale sostengono un disegno di legge per affrontare le potenziali minacce dell'intelligenza artificiale

La legge SB-1047 impone agli sviluppatori di sistemi di intelligenza artificiale su larga scala, addestrati con un costo superiore a 100 milioni di dollari, di integrare un "interruttore di sicurezza" che disattivi l'IA qualora questa dovesse produrre effetti negativi sul pubblico. Questo approccio è particolarmente rilevante nei casi in cui un sistema di IA deve funzionare con un intervento umano minimo e potrebbero verificarsi scenari critici. 

I sostenitori dell'approvazione del disegno di legge sostengono che, poiché le tecnologie di intelligenza artificiale avanzate stanno diventando sempre più autosufficienti, questo disegno di legge è necessario per affrontare i rischi che ne derivano. L'autore del disegno di legge e senatore dello Stato Scott Weiner ha sottolineato che personalità come Geoffrey Hinton e Yoshua Bengio, massimi esperti di intelligenza artificiale, hanno espresso preoccupazione per le potenziali minacce che l'intelligenza artificiale potrebbe comportare.

L'anno scorso, Hinton e Bengio erano tra i firmatari di una dichiarazione in cui si affermava che se l'intelligenza artificiale non fosse adeguatamente controllata, potrebbe portare all'estinzione dell'umanità. 

I critici esprimono preoccupazione per l'impatto del disegno di legge sull'innovazione

Tuttavia, la SB-1047 ha ricevuto numerose critiche da parte dei sostenitori della ricerca e delle aziende nel campo dell'intelligenza artificiale. Alcuni hanno sostenuto che questo disegno di legge si concentra maggiormente sui rischi che potrebbero presentarsi in futuro piuttosto che su quelli attuali, come i deepfake e le fake news. 

Fei-Fei Li, direttrice dello Stanford Institute of Human-Centered Artificial Intelligence, si è espressa contro il disegno di legge. Secondo Li, nel suo recente editoriale, la legislazione rappresenta una minaccia per l'innovazione perché gli sviluppatori sono esposti a notevoli rischi di responsabilità. Ha osservato che ciò potrebbe scoraggiare la condivisione di modelli e pesi di intelligenza artificiale in formato open source, essenziali per il mondo accademico e la collaborazione.

I leader aziendali della California hanno firmato una lettera aperta chiedendo a Newsom di porre il veto al disegno di legge, che hanno definito "fondamentalmente imperfetto". Con la SB-1047 in dirittura d'arrivo, il governatore Gavin Newsom ha tempo fino al 30 settembre per approvarlo.

Nel maggio di quest'anno, durante un simposio all'UC Berkeley, il governatore Newsom ha convenuto che trovare il giusto equilibrio in materia di regolamentazione è un compito delicato. Ha espresso preoccupazione per il fatto che lo stato potrebbe trovarsi in una "situazione molto precaria" a causa di un'eccessiva regolamentazione. Tuttavia, Newsom ha anche riconosciuto la necessità di una certa regolamentazione, in quanto i rappresentanti del settore dell'intelligenza artificiale hanno sollevato alcune questioni.