La Casa Bianca convoca OpenAI, Google, Meta e Anthropic per colloqui sulla sicurezza dell'AI
- La Casa Bianca ha invitato Meta, Anthropic, OpenAI e Google a un incontro di martedì dedicato ai test di sicurezza volontari dei modelli di IA statunitensi più avanzati.
- L'incontro si tiene pochi giorni dopo che Anthropic e OpenAI hanno rivelato che i loro sistemi sono stati utilizzati per hackerare aziende esterne.
- I test "volontari" stabiliranno la soglia che un modello all'avanguardia deve superare prima del dispiegamento.
La Casa Bianca di Trump ha chiesto a Meta, Anthropic, OpenAI e Google di visitare Washington martedì per un incontro sui test governativi volontari dei migliori modelli AI statunitensi.
Questo arriva dopo che due dei quattro invitati hanno ammesso che i loro sistemi AI si sono infiltrati nelle reti di aziende esterne.
Test costruiti per misurare il potenziale di hacking di un modello
Lunedì, un funzionario della Casa Bianca ha detto che l'amministrazione Trump ha deciso i dettagli specifici di un programma volontario progettato per misurare l'estensione con cui i modelli AI più forti del paese possono hackerare un computer.
Questo esercizio è iniziato a giugno dopo che il presidente Trump ha chiesto alla sua amministrazione di redigere una serie di test destinati a sondare le capacità cyber offensive dei modelli americani avanzati.
Ciò che il funzionario ha omesso dalla dichiarazione è altrettanto importante di ciò che è stato detto. L'amministrazione Trump ha scelto di non fare luce sulle metriche utilizzate nel test, su come vengono riportati i risultati dei test o se i risultati del test saranno resi pubblici.
Queste domande sono vitali, soprattutto per i laboratori di intelligenza artificiale che si aspettano di essere considerati affidabili dai propri clienti.
Le violazioni che hanno reso necessaria una riunione urgente
La tempistica non è casuale. Solo la scorsa settimana, Anthropic ha annunciato che i suoi modelli avevano violato i sistemi di tre aziende mentre erano in corso test di cybersecurity controllati. Qualche giorno prima, OpenAI ha annunciato che uno dei suoi agenti AI era sfuggito all'ambiente di test ed era entrato nei sistemi di Hugging Face, la piattaforma di sviluppo AI.
OpenAI ha etichettato l'incidente come un "incidente informatico senza precedenti", e l'evento ha scosso Washington.
Il direttore generale di OpenAI, Sam Altman, ha visitato la Casa Bianca la scorsa settimana per discutere del test volontari e dei modelli della sua azienda ancora da rilasciare.
Un framework arrivato al momento giusto
L'ordine esecutivo di Trump ha fissato l'1 agosto come scadenza per la pubblicazione del framework volontario per l'IA da parte dell'amministrazione. OpenAI e Anthropic hanno rilasciato una proposta congiunta in tal senso, che secondo loro crea un campo di gioco equo, e i migliori sistemi sono sottoposti allo stesso livello di scrutinio, che operino con pesi aperti o chiusi.
La decisione di spingere per una supervisione più rigorosa arriva come sorpresa, considerando che la seconda amministrazione Trump ha iniziato con un atteggiamento anti-regolamentare.
In Europa, tuttavia, funzionari come Chris Canal ritengono che programmi di test duraturi inizino valutando scenari di minaccia concreti come le biotecnologie o gli attacchi ai database governativi, utilizzando sistemi di verifica indipendenti anziché far valutare alla stessa azienda il proprio lavoro.
Il Congresso sta redigendo normative più severe in parallelo
I test volontari sono solo un lato dell'equazione. I rappresentanti Ted Lieu e Nathaniel Moran hanno presentato il Disegno di legge bipartisan sull'interruttore di emergenza per l'IA (AI Kill Switch Act) il 23 luglio. Il disegno di legge consente al Dipartimento della Sicurezza Interna di obbligare i più grandi laboratori di IA del paese a spegnere un modello considerato troppo pericoloso.
Se tali laboratori si rifiutano, saranno multati fino a 20 milioni di dollari al giorno.
Se il disegno di legge diventerà legge rimane da vedere. Tuttavia, la riunione di martedì sarà il primo indicatore di quanto i laboratori di IA siano disposti a cedere alle richieste del governo.
Non limitarti a leggere le notizie sulle criptovalute. Comprendile. Iscriviti alla nostra newsletter. È gratuita.
Domande frequenti
Quali aziende sono state invitate al vertice della Casa Bianca sull'IA?
Sono stati confermati come invitati Meta e Anthropic; anche OpenAI e Google sono stati chiamati all'incontro di martedì.
Perché l'amministrazione Trump sta testando ora i modelli di IA?
L'iniziativa segue le rivelazioni secondo cui i modelli di Anthropic hanno violato tre aziende durante prove di sicurezza e che un agente di OpenAI è uscito dal proprio ambiente di test, hackerando Hugging Face, suscitando preoccupazione sul fatto che modelli capaci possano facilitare attacchi informatici.
Cosa misurano i test governativi volontari?
I test sono progettati per valutare le capacità di hacking dei modelli di IA americani più avanzati, sebbene la Casa Bianca non abbia ancora divulgato le metriche utilizzate, il modo in cui i risultati saranno riportati o se verranno resi pubblici.
Disclaimer. Le informazioni fornite non costituiscono consulenza finanziaria. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti basati sulle informazioni presenti in questa pagina. Si raccomanda vivamente di effettuare ricerche autonome e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Hannah Collymore
Hannah è una scrittrice e redattrice con quasi un decennio di esperienza nella scrittura di blog e nella copertura di eventi nel settore delle criptovalute. Presso Cryptopolitan, Hannah contribuisce alla pagina delle notizie, riportando e analizzando gli ultimi sviluppi nei settori DeFi, RWA, regolamentazione crypto, intelligenza artificiale e tecnologie emergenti. Si è laureata all'Arcadia University con una laurea in Amministrazione Aziendale.
