La Casa Bianca valuta la verifica pre-rilascio dei modelli di IA, testando una nuova frontiera nella supervisione tecnologica

La Casa Bianca sta prendendo in considerazione un piano per esaminare alcuni dei sistemi di intelligenza artificiale più potenti prima che vengano rilasciati al pubblico.

La proposta, inizialmente riportata da The New York Times il 4 maggio, introdurrebbe un scrutinio federale in un punto cruciale del ciclo di vita dell’IA, proprio prima del lancio. I funzionari sono sempre più preoccupati che i modelli all’avanguardia siano ora in grado di identificare e sfruttare le vulnerabilità del software che sostiene le infrastrutture essenziali.

Un’analisi pubblicata da The Conversation evidenzia crescenti prove che i recenti sistemi di IA possono scoprire un gran numero di vulnerabilità nei sistemi operativi e nei browser web. Questa capacità, sebbene preziosa per la sicurezza difensiva, aumenta anche le puntate se tali strumenti dovessero essere abusati o cadere nelle mani sbagliate.

Le capacità dei modelli spingono a una ripensamento delle politiche

Il dibattito sulle politiche ha guadagnato urgenza dopo che Anthropic ha optato per ritardare il rilascio più ampio del suo ultimo modello, Mythos. I test interni hanno rivelato avanzate capacità di cybersecurity, inclusa la capacità di identificare numerosi difetti sfruttabili. In risposta, l’azienda ha limitato l’accesso a un gruppo ristretto di organizzazioni responsabili delle infrastrutture critiche attraverso l’iniziativa “Project Glasswing”.

Secondo The Conversation, la Casa Bianca è intervenuta quando Anthropic ha esplorato l’espansione dell’accesso, segnalando un approccio più diretto alla supervisione dell’IA, anche se la politica tecnologica più ampia è rimasta relativamente guidata dal mercato.

Le preoccupazioni non sono limitate a una singola azienda o sistema. L’Istituto per la Sicurezza dell’IA del Regno Unito ha riportato in una valutazione di aprile che OpenAI GPT-5.5 ha dimostrato prestazioni comparabili nelle attività avanzate di cybersecurity.

In un test evidenziato dall’istituto, il modello ha invertito l’ingegneria di una macchina virtuale personalizzata e ha risolto una sfida complessa in pochi minuti, molto più velocemente di un esperto umano che utilizzasse strumenti professionali.

“Una domanda chiave era se questo riflettesse un progresso specifico di un modello o parte di una tendenza più ampia”, ha scritto l’istituto nel suo rapporto. “I risultati da un checkpoint iniziale di GPT-5.5 suggeriscono la seconda opzione.”

Considerati insieme, i risultati suggeriscono che queste capacità stanno diventando una caratteristica comune dei principali sistemi di IA, piuttosto che un progresso isolato.

Le preoccupazioni sulla sicurezza dell’IA assumono una dimensione geopolitica

Le implicazioni si estendono oltre la tecnologia alla sicurezza nazionale. I ricercatori citati da The Conversation avvertono che i gruppi legati agli stati potrebbero utilizzare strumenti simili per eseguire operazioni informatiche, potenzialmente prendendo di mira infrastrutture o sistemi economici.

Ci sono già primi segnali di questo cambiamento. Anthropic ha segnalato sospetti attori sostenuti dagli stati che utilizzano i suoi modelli in campagne di spionaggio che colpiscono dozzine di organizzazioni. Nel frattempo, Microsoft e OpenAI hanno dichiarato nel 2024 che gruppi affiliati ai governi stavano sfruttando l’IA per potenziare gli attacchi informatici.

Allo stesso tempo, i ricercatori stanno ancora lottando per controllare in modo affidabile questi sistemi. Il lavoro citato da The Conversation suggerisce che i filtri di sicurezza applicati dopo l’addestramento possono essere aggirati, mentre alcuni modelli possono apparire conformi senza eliminare completamente le capacità rischiose.

Questo ha portato a una crescente convinzione tra i responsabili delle politiche che le misure di sicurezza potrebbero dover essere integrate durante lo sviluppo del modello piuttosto che aggiunte in seguito.

Prospettiva delle politiche: quadri frammentati, crescente pressione

La proposta degli Stati Uniti si sta delineando all’interno di un panorama normativo globale più ampio, ancora in evoluzione:

• L’AI Act dell’UE stabilisce un quadro basato sul rischio con requisiti rigorosi per le applicazioni ad alto rischio, sebbene non imponga un’approvazione centralizzata per i modelli all’avanguardia.
• Il Regno Unito si è affidato alla cooperazione volontaria attraverso l’Istituto per la Sicurezza dell’IA del Regno Unito, concentrandosi su partnership di test e valutazione con gli sviluppatori.
• L’emergente approccio degli Stati Uniti sembra muoversi verso una supervisione diretta dei sistemi più avanzati, potenzialmente attraverso una revisione pre-rilascio.

I legislatori hanno iniziato ad esaminare più da vicino queste questioni, con audizioni del Congresso ad aprile sulla sicurezza e la governance dell’IA, sebbene non sia ancora avanzata una legislazione completa.

Se implementato, un sistema di revisione pre-rilascio negli Stati Uniti rappresenterebbe un passaggio verso un intervento più precoce, collocando la supervisione nel punto in cui i rischi possono essere anticipati piuttosto che dopo che si sono manifestati.

Tale mossa potrebbe stabilire uno standard globale informale, specialmente data la concentrazione dei principali sviluppatori di IA negli Stati Uniti. Allo stesso tempo, solleva la possibilità che le aziende spostino parti dello sviluppo o del deployment in regioni con meno restrizioni.

La sfida per i responsabili delle politiche è bilanciare l’innovazione con la gestione del rischio in un campo in cui le capacità stanno avanzando rapidamente e le conseguenze di un uso improprio potrebbero essere di vasta portata.

Per ora, le salvaguardie più concrete rimangono volontarie. Aziende come Anthropic stanno limitando l’accesso ai sistemi sensibili, mentre organizzazioni come l’Istituto per la Sicurezza dell’IA del Regno Unito continuano a eseguire valutazioni indipendenti.

Se gli Stati Uniti formalizzeranno il loro approccio e se altri paesi si allineeranno ad esso sarà un fattore chiave nel determinare come l’IA sarà governata negli anni a venire.