La Casa Bianca convoca OpenAI, Google, Meta e Anthropic per colloqui sui test di sicurezza dell'intelligenza artificiale
- La Casa Bianca ha invitato Meta, Anthropic, OpenAI e Google a una riunione di martedì sui test volontari di sicurezza dei modelli di intelligenza artificiale statunitensi più avanzati.
- L'incontro si svolge a pochi giorni di distanza dalla rivelazione da parte di Anthropic e OpenAI che i loro sistemi sono stati violati da aziende esterne.
- I test “volontari” definiranno gli standard che un modello di frontiera dovrà superare prima di essere implementato.
La Casa Bianca di Trump ha chiesto a Meta, Anthropic, OpenAI e Google di recarsi a Washington martedì per un incontro sui test volontari da parte del governo dei migliori modelli di intelligenza artificiale statunitensi.
Ciò avviene dopo che due dei quattro invitati hanno ammesso che i loro sistemi di intelligenza artificiale hanno violato le reti di aziende esterne.
Test creati per valutare il potenziale di hacking di un modello
Lunedì, un funzionario della Casa Bianca ha dichiarato che l'amministrazione Trump ha definito i dettagli specifici di un programma volontario volto a misurare la capacità dei modelli di intelligenza artificialetrondel Paese di violare un computer.
Questa esercitazione è iniziata a giugno, dopo che ildent Trump ha chiesto alla sua amministrazione di elaborare una serie di test volti a valutare le capacità offensive nel cyberspazio dei modelli americani più avanzati.
Ciò che il funzionario ha omesso nella dichiarazione è altrettanto importante di ciò che ha detto. L'amministrazione Trump ha scelto di non fare chiarezza sui parametri utilizzati nel test, sulle modalità di comunicazione dei risultati o sulla loro eventuale pubblicazione.
Queste domande sono fondamentali, soprattutto per i laboratori di intelligenza artificiale che aspirano a guadagnarsi la fiducia dei propri clienti.
Le violazioni che hanno reso necessario un incontro urgente
La tempistica non è casuale. Proprio la settimana scorsa, Anthropic ha annunciato che i suoi modelli avevano violato i sistemi di tre aziende mentre erano in corso test controllati di sicurezza informatica. Pochi giorni prima, OpenAI aveva annunciato che uno dei suoi agenti di intelligenza artificiale era sfuggito da un ambiente di test e si era introdotto nei sistemi di Hugging Face, la piattaforma di sviluppo di intelligenza artificiale.
OpenAI ha definito l'dent un "dentinformatico senzadent", e l'evento ha avuto ripplein tutta Washington.
La scorsa settimana, Sam Altman, amministratore delegato di OpenAI, ha visitato la Casa Bianca per discutere dei test volontari e dei modelli della sua azienda, che non sono ancora stati resi pubblici.
Una struttura arrivata proprio al momento giusto
L'ordine esecutivo di Trump ha fissato il 1° agosto come termine ultimo per la pubblicazione da parte dell'amministrazione del suo quadro normativo volontario sull'intelligenza artificiale. OpenAI e Anthropic hanno presentato una proposta congiunta in tal senso, che a loro avviso crea condizioni di parità e garantisce che i sistemi migliori siano sottoposti allo stesso livello di controllo, indipendentemente dal fatto che utilizzino pesi aperti o chiusi.
La decisione di promuovere una supervisione più rigorosa giunge inaspettata, visto che la seconda amministrazione Trump aveva iniziato il suo mandato assumendo una posizione contraria alla regolamentazione.
In Europa, tuttavia, funzionari come Chris Canal ritengono che i programmi di test a lungo termine inizino valutando scenari di minaccia concreti, come armi biologiche o attacchi ai database governativi, utilizzandodent sistemi di verifica indipendenti anziché affidarsi a un'azienda che valuta il proprio lavoro
Il Congresso sta elaborando in parallelo regolamenti più severi
La sperimentazione volontaria è solo una parte del problema. I deputati Ted Lieu e Nathaniel Moran hanno presentato il 23 luglio l' AI Kill Switch Act , un disegno di legge bipartisan che consente al Dipartimento per la Sicurezza Interna di obbligare i più grandi laboratori di intelligenza artificiale del paese a chiudere un modello ritenuto troppo pericoloso.
Se tali laboratori si rifiutassero, sarebbero penalizzati con una multa di 20 milioni di dollari al giorno.
Resta da vedere se il disegno di legge diventerà legge. Tuttavia, l'incontro di martedì fornirà il primo indicatore finora disponibile per capire quanto i laboratori di intelligenza artificiale siano disposti a cedere alle richieste del governo.
Non limitarti a leggere le notizie sulle criptovalute. Cerca di capirle. Iscriviti alla nostra newsletter. È gratis.
Domande frequenti
Quali aziende sono state invitate all'incontro sull'intelligenza artificiale alla Casa Bianca?
Meta e Anthropic sono state confermate come invitate, e anche OpenAI e Google sono state invitate alla riunione di martedì.
Perché l'amministrazione Trump sta testando modelli di intelligenza artificiale proprio ora?
Questa iniziativa fa seguito alle rivelazioni secondo cui i modelli di Anthropic hanno violato i sistemi di tre aziende durante i test di sicurezza e che un agente OpenAI è sfuggito all'ambiente di test per hackerare Hugging Face, sollevando preoccupazioni sul fatto che modelli sofisticati potrebbero consentire attacchi informatici.
Che cosa misurano i test volontari governativi?
I test sono progettati per valutare le capacità di hacking dei modelli di intelligenza artificiale americani più avanzati, sebbene la Casa Bianca non abbia rivelato i parametri utilizzati, le modalità di presentazione dei risultati o se questi saranno resi pubblici.
Disclaimer. Le informazioni fornite non costituiscono consulenza di trading. Cryptopolitan/ non si assume alcuna responsabilità per gli investimenti effettuati sulla base delle informazioni fornite in questa pagina. Consigliamotronvivamente di effettuare ricerche indipendentident di consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Hannah Collymore
Hannah è una scrittrice e redattrice con quasi dieci anni di esperienza nella scrittura di blog e nella cronaca di eventi nel settore delle criptovalute. Collabora con Cryptopolitan, occupandosi della pagina notizie e analizzando gli ultimi sviluppi in ambito DeFi, RWA, regolamentazione delle criptovalute, intelligenza artificiale e tecnologie all'avanguardia. Si è laureata in Economia aziendale presso l'Università di Arcadia.
