Anthropic propone al Congresso una legge sulla sicurezza dell'IA con soglia di danni da 1 miliardo di dollari

Tre persone a conoscenza delle discussioni private affermano che Anthropic sta proponendo ai legislatori del Congresso un disegno di legge provvisorio sulla sicurezza dell'IA di frontiera. Secondo quanto riportato, il disegno di legge consentirebbe al governo degli Stati Uniti di bloccare un modello se presenta un pericolo chiaro e imminente di oltre 50 vittime o danni finanziari pari a 1 miliardo di dollari.

Nello specifico, il rischio deve coinvolgere un cyberattacco, la creazione o il dispiegamento di armi biologiche, oppure un modello che ha superato con successo i vincoli di sicurezza imposti dal suo sviluppatore.

Negli ultimi mesi, i principali sviluppatori di intelligenza artificiale hanno riconosciuto diversi casi in cui agenti AI hanno hackerato o testato le difese delle piattaforme online. Fortunatamente, nessuna di queste prime violazioni ha causato vittime diffuse o perdite finanziarie catastrofiche.

Le restrizioni proposte darebbero maggiore enfasi a ciò che i sistemi avanzati di IA possono fare in contesti reali, piuttosto che affidarsi esclusivamente agli impegni di sicurezza assunti dai loro sviluppatori. Man mano che i modelli diventano più capaci di scrivere codice, identificare vulnerabilità software ed eseguire compiti complessi in autonomia, i regolatori si trovano ad affrontare la sfida di determinare quando le capacità di un sistema superano la soglia del rischio inaccettabile.

I test indipendenti potrebbero aiutare a stabilire se un modello è in grado di bypassare le protezioni o essere utilizzato per attività dannose prima di raggiungere un pubblico più ampio. Tuttavia, definire una minaccia imminente rimane difficile, soprattutto quando le stesse capacità che comportano rischi per la sicurezza possono anche aiutare i ricercatori a identificare e correggere le vulnerabilità.

La bozza di legge di Anthropic prevede che un giudice federale possa ordinare la sospensione di un modello

A difesa della proposta di legge, un portavoce di Anthropic ha dichiarato che il disegno di legge è simile alle raccomandazioni sulla sicurezza presentate nell'Advanced AI Framework dell'azienda, pubblicato a giugno.

In quel framework, l'azienda aveva ha sottolineato che la sua anteprima Claude Mythos aveva già scoperto migliaia di gravi vulnerabilità, che copre tutti i principali sistemi operativi e browser web. All'epoca, sottolineava che questa traiettoria è destinata ad accelerare, portando a un rischio crescente di danni catastrofici nel mondo reale.

Ha inoltre sostenuto un approccio normativo equilibrato che richiede l'intervento del governo senza soffocare l'innovazione. Anche allora, l'azienda ha mantenuto la posizione che, quando un modello di IA presenta pericoli estremi, i regolatori devono avere il potere statutario unico di bloccarlo o imporre multe pesanti legate ai ricavi globali, che si moltiplicano in caso di reiterate violazioni. 

Fino ad ora, Anthropic non ha apertamente sostenuto alcun disegno di legge federale specifico al Congresso, sebbene abbia gettato le sue supporto simpatie dietro alcune leggi statali sulla sicurezza dell'IA – tra cui due in California, come il SB 53.

Quel disegno di legge specifico, approvato lo scorso anno, obbliga le aziende a creare e condividere i propri framework di sicurezza mentre lavorano per mitigare i rischi maggiori. Le obbliga inoltre a segnalare qualsiasi grave incidente di sicurezza allo stato entro 15 giorni. 

Secondo la proposta di Anthropic, i valutatori terzi registrati presso il Dipartimento del Commercio testerebbero regolarmente i laboratori e i modelli dell'azienda. Sebbene ai laboratori sia consentito finanziare queste valutazioni, il compenso non può essere subordinato alle conclusioni del valutatore. Inoltre, qualsiasi scoperta di un "rischio enumerato imminente" deve essere segnalata alle autorità federali entro 72 ore dal completamento.

Successivamente, se il Dipartimento del Commercio determina che un modello rappresenta un rischio, può chiedere a un giudice di bloccarne il rilascio. La disposizione, tuttavia, vieta a qualsiasi altro "dipartimento, agenzia o funzionario" degli Stati Uniti di interrompere lo sviluppo, il deployment o l'uso interno del modello. Ciononostante, un giudice federale del Distretto della Columbia mantiene l'autorità di ordinare tale sospensione. 

La FTC ha inviato citazioni in giudizio a OpenAI e Anthropic

Mercoledì, la Federal Trade Commission ha inviato citazioni civili a OpenAI e Anthropic, richiedendo documenti sugli incidenti di sicurezza che sono diventati una crisi crescente per il settore. OpenAI ha risposto alla citazione affermando: "Mentre miglioriamo i nostri modelli e questi aiutano sempre più le persone nella loro vita quotidiana, la sicurezza rimane una priorità assoluta. Collaboreremo in modo costruttivo con la FTC." 

Una fonte ha rivelato che l’agenzia intende estendere il proprio potere di citazione in giudizio alle entità terze nei prossimi mesi. L’autorità di regolamentazione potrebbe costringere i dirigenti di Anthropic e OpenAI a deporre pubblicamente, offrendo ai legislatori una piattaforma per mettere in discussione i giganti della tecnologia sulla sicurezza, mentre la paura pubblica per le potenziali conseguenze cresce.

Secondo un recente sondaggio condotto dal Centro per la Ricerca sull’Affare Pubblico AP-NORC, quasi due terzi degli adulti statunitensi ritengono che l’intelligenza artificiale si stia sviluppando troppo rapidamente. Otto intervistati su dieci hanno inoltre sottolineato l’importanza degli sforzi governativi per mantenere la tecnologia sotto il controllo umano. 

Finora, il presidente Trump ha continuato a respingere le richieste di rallentare lo sviluppo dell’IA, citando l’importanza della tecnologia per gli interessi strategici degli Stati Uniti. Ha recentemente annunciato una “Forza Super Intelligenza” per aiutare ad allineare gli sforzi del governo federale sull’IA, mantenendo al contempo il dialogo con consumatori, organizzazioni di interesse pubblico e altri stakeholder.