New York approva una legge per limitare i disastri catastrofici causati da malfunzionamenti dell'IA

I legislatori di New York hanno approvato una legge per limitare i disastri causati dall'intelligenza artificiale. Secondo la legge, lo stato vuole impedire che i modelli di IA creati da aziende come OpenAI, Google e Anthropic contribuiscano a scenari di disastro.

Secondo la proposta di legge, questi scenari includono la morte o le ferite di oltre 100 persone o danni e perdite superiori a 1 miliardo di dollari. Il disegno di legge, noto come RAISE Act, rappresenta una vittoria per i movimenti che spingono per la sicurezza dell'IA. I movimenti hanno perso slancio negli ultimi anni, poiché Silicon Valley e l'amministrazione Trump hanno continuato a dare priorità alla velocità e all'innovazione.

Gli attivisti focalizzati sulla sicurezza, tra cui il premio Nobel Geoffrey Hinton e il pioniere della ricerca sull'IA Yoshua Bengio, sono dietro il RAISE Act. Se alla fine verrà firmato in legge, la legge stabilirebbe il primo insieme di standard di trasparenza legalmente obbligatori per i principali laboratori di intelligenza artificiale negli Stati Uniti d'America.

New York prende in considerazione il RAISE Act per limitare i disastri alimentati dall'IA

Il RAISE Act ha alcune delle stesse disposizioni e obiettivi della controversa legge sulla sicurezza dell'IA SB 1047 in California, che è stata infine messa al veto.

Tuttavia, un co-promotore del RAISE Act, il senatore dello Stato di New York Andrew Gounardes, ha menzionato in un'intervista che ha progettato la legge in modo che non soffochi l'innovazione tra le startup o i ricercatori accademici, una critica comune che la SB 1047 ha ricevuto. "La finestra per mettere in atto le protezioni si sta restringendo rapidamente dato quanto velocemente questa tecnologia sta evolvendo", ha detto il senatore Gounardes.

Il senatore ha anche detto che la maggior parte delle persone esperte nel settore dell'IA ha riconosciuto questi rischi, uno sviluppo che ha definito "allarmante". Nel frattempo, il RAISE Act è ora in cammino verso la scrivania del governatore di New York Kathy Hochul, dove potrebbe firmarlo in legge o rimandarlo per emendamenti. Un'altra opzione sarebbe per lei mettere il veto alla legge, il che è probabile.

Se alla fine verrà firmato in legge, il RAISE Act richiederà ad alcuni dei più grandi laboratori di IA del mondo di pubblicare rapporti sulla sicurezza e sulla sicurezza dei loro modelli di IA di frontiera. La legge obbliga anche i laboratori di IA a segnalare incidenti di sicurezza relativi al comportamento dei modelli di IA o ad attori malintenzionati che rubano un modello di IA, se dovesse accadere.

Se le aziende tecnologiche non rispettano questi standard, il RAISE Act autorizza l'avvocato generale di New York a infliggere sanzioni civili fino a 30 milioni di dollari.

Il RAISE Act cerca di regolare i laboratori di IA

Il RAISE Act è stato progettato per regolare le più grandi aziende di IA a livello globale, incluse quelle con sede in California come OpenAI e Google, e quelle con sede in Cina, come DeepSeek e Alibaba. I requisiti del disegno di legge includono una clausola obbligatoria che si applica alle aziende che hanno utilizzato più di 100 milioni di dollari di risorse di calcolo per addestrare i propri modelli di IA e sono disponibili per i residenti di New York.

Sebbene simile alla SB 1047 in alcuni modi, il RAISE Act affronta alcune delle precedenti leggi sulla sicurezza dell'IA.

Ad esempio, nessuna clausola richiede agli sviluppatori di modelli di IA di avere un interruttore di emergenza sui propri modelli, né rende le aziende responsabili dei danni critici derivanti dal post-addestramento dei modelli. Tuttavia, secondo il co-promotore del RAISE Act, il membro dell'Assemblea di Stato di New York Alex Bores, c'è stata opposizione al disegno di legge di New York. Ha definito la resistenza prevedibile, ma ha aggiunto che il RAISE Act non limiterà le capacità di sviluppo delle aziende tecnologiche in alcun modo.

"Il NY RAISE Act è un'altra stupida, stupida legge statale sull'IA che farà solo male agli Stati Uniti in un momento in cui i nostri avversari stanno correndo avanti", ha detto Anjney Midha, general partner di Andreessen Horowitz, in un post di venerdì su X.

Andreessen Horowitz e l'incubatore di startup Y Combinator si sono opposti ferocemente alla SB 1047. Inoltre, il co-fondatore di Anthropic Jack Clark ha condiviso le sue lamentele su quanto sia ampio il RAISE Act, notando che potrebbe presentare rischi per le aziende più piccole.