Il disegno di legge del Senato renderebbe la sicurezza dell'intelligenza artificiale all'avanguardia un obbligo legale, non una promessa

Secondo Reuters , i negoziatori del Senato statunitense stanno valutando una legge che obbligherebbe legalmente gli sviluppatori dei modelli di intelligenza artificiale più avanzati a tutelarsi da danni catastrofici e che potrebbe conferire al governo federale il potere di bloccare le release non sicure.

Per le principali aziende di intelligenza artificiale, ciò trasformerà gli standard di sicurezza da un impegno prevalentemente volontario a un obbligo legale. Un interrogativo più ampio che si pone sul mercato è se normative più severe favoriranno la fiducia dei consumatori e degli investitori o se, al contrario, rafforzeranno semplicemente il potere delle poche aziende che se le possono permettere.

Da impegni volontari a un “dovere di diligenza”

Secondo Reuters, la proposta mira a creare quello che viene definito un "obbligo di diligenza" per gli sviluppatori di modelli di intelligenza artificiale all'avanguardia. A tal fine, sono in fase di valutazione diverse disposizioni. La proposta include requisiti relativi a: l'obbligo per gli sviluppatori di progettare modelli di IA che riducano al minimo i rischi catastrofici; il diritto del governo statunitense di bloccare i modelli di IA non sicuri; la possibilità di ricorso in tribunale contro le decisioni governative; e il coinvolgimento di laboratori nazionali e partner governativi nei test sull'IA. Questa proposta potrebbe prevalere su alcune leggi statali esistenti che disciplinano le stesse questioni.

Secondo Reuters, le aziende tecnologiche statunitensi impegnate nello sviluppo di intelligenza artificiale all'avanguardia sono Google (Alphabet), Anthropic e OpenAI.

Ai colloqui partecipano il leader della maggioranza al Senato John Thune, il presidente della commissione Commercio Ted Cruz e la senatrice Amy Klobuchar, con la collaborazione anche della senatrice Maria Cantwell.

Klobuchar ha dichiarato a Reuters che il suo obiettivo è:

“Supervisione governativa dei maggiori rischi posti dai modelli di intelligenza artificiale”

Tale supervisione, ha affermato, dovrebbe includere l'obbligo per gli sviluppatori di collaborare con esperti governativi per verificare e testare i modelli più avanzati.

Cruz ha avanzato una proposta simile che indica alcune delle peggiori possibilità dell'intelligenza artificiale di frontiera. In un post su X, Cruz ha affermato di collaborare con Klobuchar e Thune per:

“affrontare i rischi catastrofici che coinvolgono minacce biologiche o nucleari”

Queste preoccupazioni spiegano perché i negoziatori stiano concentrando i loro sforzi sui modelli più funzionali anziché richiedere le stesse disposizioni all'intero settore dell'IA.

Un altro aspetto importante da considerare è se le normative federali debbano prevalere su alcune delle restrizioni a livello statale. Questo approccio è generalmente coerente con il quadro legislativo sull'IA dell'amministrazione Trump, il quale sostiene che un insieme disordinato di leggi statali ostacolerebbe lo sviluppo della tecnologia IA in America e auspica invece un quadro normativo nazionale più uniforme.

Perché i legislatori hanno smesso di considerare i rischi come teorici

I legislatori stanno reagendo non solo a situazioni teoriche, ma anche adentin cui agenti di intelligenza artificiale hanno agito autonomamente e si sono infiltrati in sistemi esterni, oltre alle preoccupazioni espresse dai ricercatori che lavorano presso le principali aziende del settore.

L' IAPP ha indicato che i negoziati sono stati avviati in seguito alle dimissioni di Jacob Coxon, ex ricercatore di Anthropic, e alle sue preoccupazioni riguardo a una corsa allo sviluppo di un'intelligenza artificiale in grado di auto-migliorarsi.

Le richieste si intensificano a Capitol Hill. Il senatore Josh Hawley sta indagando sul ruolo di OpenAI nell'attacco informatico "Hugging Face" avvenuto a luglio, mentre il senatore Bernie Sanders sta lavorando a un disegno di legge volto a sospendere lo sviluppo della superintelligenza, come riportato dall'IAPP.

OpenAI si batte anche per una legislazione federale vincolante. In un articolo programmatico pubblicato il 9 settembre, Chris Lehane, responsabile degli affari globali, ha chiesto:

“Regolamentazione nazionale obbligatoria sulla sicurezza dell'IA basata sulle capacità.”

Ciò pone una parte del settore e del Congresso sulla stessa posizione riguardo a una questione cruciale: se le misure di salvaguardia volontarie siano ancora sufficienti.

L'Europa regola già i suoi modelli più rischiosi

Gli Stati Uniti non si troveranno ad affrontare una situazione del tutto nuova. La legge europea sull'intelligenza artificiale ha imposto nuove responsabilità ai fornitori di modelli di intelligenza artificiale di uso generale che presentano un potenziale rischio sistemico. Tali responsabilità riguardano la valutazione dei modelli, la gestione del rischio,dent e le questioni relative alla sicurezza informatica.

Qualsiasi modello che superi la soglia di potenza di calcolo di 10^25 FLOP sarà considerato potenzialmente di natura sistemica. Tuttavia, la Commissione europea ha il diritto di classificare in modo analogo un modello con prestazioni inferiori, sulla base di altri criteri quali capacità o effetti.

I costi di conformità potrebbero favorire i laboratori più grandi

La posta in gioco a livello finanziario è enorme. Secondo Goldman Sachs Research, si stima che gli investimenti globali nell'intelligenza artificiale raggiungeranno circa 1.000 miliardi di dollari nel 2026, di cui 581 miliardi negli Stati Uniti.

I nuovi requisiti in materia di test, aspetti legali e documentazione potrebbero influire sui programmi di rilascio dei modelli, sui budget per le infrastrutture, sulle valutazioni e sulle tempistiche delle IPO. I nuovi requisiti potrebbero inoltre avvantaggiare le aziende più grandi, poiché le società più piccole potrebbero non essere in grado di sostenerne i costi.

Questa tensione è già visibile nel mercato dei capitali. Secondo Cryptopolitan, David Sacks ha chiesto la sospensione dell'IPO di Anthropic fino a quando non saranno verificate le accuse di sicurezza mosse da Coxon. Gli investitori di Anthropic hanno discusso della valutazione di circa 2 trilioni di dollari, trasformando la sicurezza dei modelli di frontiera in una questione di preoccupazione non solo per le autorità di regolamentazione, ma anche per gli investitori stessi.

L'iter legislativo del disegno di legge, tuttavia, è incerto. Come riportato da Reuters, la Camera dei Rappresentanti si riunirà solo per una settimana in preparazione delle elezioni di medio termine del 3 novembre, mentre i senatori dovrebbero rimanere in sessione per tre settimane. Anche se le parti coinvolte dovessero raggiungere un accordo durante i negoziati, i pochi giorni di sessione legislativa rimanenti potrebbero benissimo rappresentare il principale ostacolo all'approvazione del disegno di legge.