Il disegno di legge sulla regolamentazione dell'IA della California avanza alla scrivania del Governatore

Un disegno di legge molto dibattuto che regola l'intelligenza artificiale (IA) ha superato un ostacolo significativo nella legislatura della California. SB-1047, un disegno di legge che mira a regolare i grandi modelli di IA per la sicurezza, è stato approvato dall'Assemblea Statale della California con 45 voti favorevoli contro 11 contrari. 

Il disegno di legge, che è stato approvato dal Senato statale nel maggio con un voto di 32-1, dovrebbe passare un altro voto procedurale al Senato prima di essere inviato per la firma del Governatore Gavin Newsom. 

Gli esperti di IA sostengono il disegno di legge per affrontare le potenziali minacce dell'IA

SB-1047 richiede che gli sviluppatori di IA su larga scala addestrati con un costo superiore a 100 milioni di dollari incorporino un 'interruttore di arresto' che spegne l'IA nel caso in cui sviluppi effetti avversi sul pubblico. Questo approccio è particolarmente rilevante nei casi in cui un sistema IA deve funzionare con un intervento umano minimo e possono verificarsi scenari peggiori.

I sostenitori del passaggio del disegno di legge affermano che poiché le tecnologie IA avanzate stanno diventando sempre più autonome, questo disegno di legge è necessario per affrontare i rischi che ne derivano. L'autore del disegno di legge e il Senatore di Stato Scott Weiner ha sottolineato che personalità come Geoffrey Hinton e Yoshua Bengio, esperti leader nell'IA, hanno espresso preoccupazioni per le potenziali minacce che l'IA potrebbe portare.

L'anno scorso, Hinton e Bengio erano tra i firmatari di una dichiarazione che affermava che se l'IA non è controllata correttamente, potrebbe portare all'estinzione umana. 

I critici esprimono preoccupazioni sull'impatto del disegno di legge sull'innovazione

Tuttavia, SB-1047 ha incontrato molte critiche dai sostenitori della ricerca e del business dell'IA. Alcuni hanno sostenuto che questo disegno di legge è più preoccupato per i rischi che potrebbero presentarsi in futuro piuttosto che concentrarsi su quelli attuali, come i deep fake e le notizie false. 

Fei-Fei Li, Direttrice dell'Istituto Stanford di IA Centrata sull'Umano, si è espressa contro il disegno di legge. Secondo Li, nel suo recente editoriale, la legislazione è una minaccia per l'innovazione perché gli sviluppatori hanno molta esposizione alla responsabilità. Ha notato che questo potrebbe scoraggiare la condivisione di modelli e pesi di IA in formato open-source, che sono essenziali per gli accademici e la collaborazione.

I leader aziendali della California hanno firmato una lettera aperta chiedendo a Newsom di porre il veto alla legge, che hanno definito "fondamentalmente difettosa". Con l'approvazione del disegno di legge SB-1047 in procinto di diventare legge, il governatore Gavin Newsom ha tempo fino al 30 settembre per approvarlo.

Nel maggio di quest'anno, a un simposio all'UC Berkeley, il Governatore Newsom ha concordato che una regolamentazione adeguata è una linea sottile. Ha sollevato preoccupazioni che lo stato potrebbe essere messo in una “situazione molto precaria” a causa di un'eccessiva regolamentazione. Tuttavia, Newsom ha anche riconosciuto la necessità di una regolamentazione in una certa misura poiché i rappresentanti del settore dell'IA hanno sollevato alcune domande.