Il disegno di legge del Senato renderebbe la sicurezza dell'IA di frontiera un dovere legale, non una promessa

I negoziatori del Senato degli Stati Uniti stanno prendendo in considerazione una legislazione che richiederebbe legalmente agli sviluppatori dei modelli di IA più avanzati di proteggersi da danni catastrofici e potrebbe dare al governo federale il potere di bloccare i rilasci non sicuri, secondo Reuters.

Per le principali aziende di IA, questo trasformerà gli standard di sicurezza da uno sforzo per lo più volontario a un dovere legale. Una domanda più ampia di mercato è se regolamentazioni più severe favoriranno la fiducia tra consumatori e investitori o semplicemente rafforzeranno le poche aziende che possono permettersi di rispettarle.

Da impegni volontari a un «dovere di cura»

Secondo Reuters, la proposta cerca di creare ciò che viene definito un «dovere di cura» per gli sviluppatori di modelli di IA di frontiera. Varie disposizioni sono in fase di considerazione per questo scopo. La proposta include requisiti per: gli sviluppatori di progettare modelli di IA che minimizzino i rischi catastrofici; il diritto riservato del governo degli Stati Uniti di bloccare i modelli di IA non sicuri; appelli in tribunale contro le decisioni del governo; e il coinvolgimento di laboratori nazionali e partner governativi nei test dell'IA. Questa proposta potrebbe avere la precedenza su alcune leggi statali esistenti che regolano le stesse questioni.

Secondo Reuters, le aziende tecnologiche statunitensi impegnate nello sviluppo di IA di frontiera sono Google (Alphabet), Anthropic e OpenAI.

I colloqui coinvolgono il leader della maggioranza al Senato John Thune, il presidente del Comitato per il Commercio Ted Cruz e la senatrice Amy Klobuchar, con la senatrice Maria Cantwell coinvolta.

Klobuchar ha detto a Reuters che il suo obiettivo è:

«il controllo governativo sui maggiori rischi posti dai modelli di IA»

Quel controllo, ha detto, dovrebbe includere il requisito per gli sviluppatori di lavorare con esperti governativi per verificare e testare i modelli avanzati.

Cruz ha presentato una proposta simile che indica alcune delle peggiori possibilità dell'IA di frontiera. In un post su X, Cruz ha detto che sta collaborando con Klobuchar e Thune per:

«affrontare i rischi catastrofici che coinvolgono minacce biologiche o nucleari»

Queste preoccupazioni spiegano perché i negoziatori stanno concentrando i loro sforzi sui modelli più funzionali invece di richiedere le stesse disposizioni da tutta l'industria dell'IA.

Un'altra considerazione importante è se le regolamentazioni federali dovrebbero prevalere su alcune delle restrizioni a livello statale. Questo approccio è generalmente coerente con il quadro legislativo sull'IA dell'amministrazione Trump, che sostiene che un insieme disordinato di leggi statali ostacolerà l'esperienza nello sviluppo della tecnologia IA in America e invoca invece un quadro nazionale più coerente.

Perché i legislatori hanno smesso di trattare i rischi come teorici

I legislatori stanno rispondendo non solo a situazioni teoriche ma anche a incidenti di agenti IA che agiscono autonomamente e penetrano sistemi esterni, insieme alle preoccupazioni espresse dai ricercatori che lavorano per i principali attori del settore.

L'IAPP ha indicato che i negoziati sono stati avviati dalle dimissioni di Jacob Coxon, ex ricercatore di Anthropic, e dalle sue preoccupazioni riguardo a una gara per l'IA auto-migliorante.

Le richieste stanno aumentando a Capitol Hill. Il senatore Josh Hawley indaga sul ruolo di OpenAI nell'attacco informatico a Hugging Face verificatosi a luglio, mentre il senatore Bernie Sanders lavora a un disegno di legge mirato a mettere in pausa lo sviluppo della superintelligenza, come riportato dall'IAPP.

OpenAI sostiene anche una legislazione federale vincolante. In un articolo di politica pubblicato il 9 settembre, Chris Lehane, Chief Global Affairs Officer, ha chiesto:

«regolamentazione nazionale obbligatoria della sicurezza dell'IA basata sulle capacità».

Questo mette una certa parte dell'industria e del Congresso dalla stessa parte di una domanda cruciale su se le salvaguardie volontarie siano ancora sufficienti.

L'Europa regola già i suoi modelli più rischiosi

Gli Stati Uniti non navigheranno in acque inesplorate. L'AI Act dell'Unione Europea ha imposto nuove responsabilità ai fornitori di modelli di IA a uso generale che hanno la possibilità di rischio sistemico. I doveri riguardano la valutazione del modello, la gestione del rischio, la segnalazione degli incidenti e le questioni relative alla sicurezza informatica.

Qualsiasi modello al di sopra della soglia di potenza di calcolo di 10^25 FLOP sarà considerato di natura potenzialmente sistemica. Tuttavia, la Commissione Europea ha il diritto di classificare un modello con prestazioni inferiori in modo simile in base ad altri criteri come le capacità o gli effetti.

I costi di conformità potrebbero favorire i laboratori più grandi

Le poste in gioco finanziarie sono enormi. Secondo Goldman Sachs Research, l'investimento globale stimato nell'IA dovrebbe raggiungere circa 1 trilione di dollari nel 2026, di cui 581 miliardi negli Stati Uniti.

Nuovi requisiti di test, legali e di documentazione potrebbero influenzare i programmi di rilascio dei modelli, i budget delle infrastrutture, le valutazioni e i tempi delle IPO. Nuovi requisiti potrebbero anche fornire un vantaggio ai giocatori più grandi poiché le aziende più piccole potrebbero non essere in grado di sostenere i costi.

Questa tensione è già visibile nel mercato dei capitali. Secondo Cryptopolitan, David Sacks ha chiesto la sospensione dell'IPO di Anthropic finché le accuse di sicurezza fatte da Coxon non fossero state verificate. Gli investitori di Anthropic hanno avuto una conversazione sulla valutazione di circa 2 trilioni di dollari, che ha trasformato la sicurezza dei modelli di frontiera in una questione di preoccupazione non solo per i regolatori ma anche per gli investitori.

I progressi del disegno di legge, tuttavia, sono incerti. Come riportato da Reuters, la Camera sarà in sessione solo per una settimana in preparazione alle elezioni di midterm del 3 novembre, mentre i senatori dovrebbero rimanere per tre settimane. Anche se le parti coinvolte raggiungono un accordo durante i negoziati, i giorni legislativi limitati rimanenti potrebbero molto bene servire come il prossimo ostacolo principale nel passaggio del disegno di legge.