OpenAI scala la sicurezza per proteggere la proprietà intellettuale dalle minacce di spionaggio straniero cinese

OpenAI ha rivisto le sue misure di sicurezza per proteggersi dalle minacce straniere. L'azienda di intelligenza artificiale da 300 miliardi di dollari, conosciuta a livello globale per prodotti come ChatGPT, ha implementato un ampio overhaul della sicurezza che include controlli di accesso più rigorosi, una selezione dei dipendenti più severa e salvaguardie fisiche.

Sebbene l'azienda abbia negato la rivendicazione che le sue azioni siano una risposta alla sua concorrenza, OpenAI ha rafforzato le sue procedure di sicurezza dopo un incidente a gennaio che ha coinvolto la startup cinese DeepSeek.

OpenAI overhaul della sicurezza

OpenAI ha aumentato drasticamente le sue misure di sicurezza interne negli ultimi mesi per salvaguardare la sua proprietà intellettuale dallo spionaggio straniero, in particolare dalla Cina. L'azienda ha iniziato ad implementare protocolli più stretti lo scorso anno, ma questi sforzi hanno guadagnato rinnovata urgenza dopo il lancio di DeepSeek a gennaio.

OpenAI sospetta che l'azienda rivale abbia utilizzato la «distillazione» per sviluppare e rilasciare un prodotto concorrente. La distillazione è una tecnica che prevede l'addestramento di un nuovo modello per imitare il comportamento di un altro.

«L'episodio ha spinto OpenAI a essere molto più rigorosa», ha detto una fonte vicina al team di sicurezza. Da allora, l'azienda ha ampliato aggressivamente le sue operazioni di cybersecurity e ha stretto il controllo sull'accesso alla ricerca sensibile, ai dati dei modelli e alle infrastrutture.

Finora, DeepSeek non ha risposto alle accuse.

L'incidente DeepSeek ha anche scatenato un ampio blocco interno a OpenAI. Nuove politiche, note internamente come «information tenting», sono ora utilizzate per determinare come i dati sensibili vengono accessi e condivisi.

Solo un piccolo cerchio di membri dello staff può accedere ai progetti di ricerca di alto livello, e quelli coinvolti in certi sviluppi devono confermare che gli altri con cui interagiscono fanno parte dello stesso «tenda».

Questo approccio cauto è stato implementato durante lo sviluppo del modello di prossima generazione di OpenAI, riferito internamente come «Strawberry». Al personale è stato ordinato di non discutere del progetto negli spazi aperti dell'ufficio a meno che non fossero certi che i colleghi fossero ufficialmente autorizzati a farne parte.

Questo segreto ha causato alcune frizioni interne, con un dipendente che lo ha descritto come «molto stretto», affermando: «avevi tutto o nulla».

A livello di sistema, OpenAI ora memorizza gran parte della sua tecnologia proprietaria in ambienti isolati e offline. Questa infrastruttura air-gapped separa i sistemi critici dalle reti più ampie e da internet pubblico, riducendo il rischio di infiltrazioni remote.

La sicurezza fisica è stata anche migliorata, con l'accesso biometrico tramite impronte digitali richiesto per alcune stanze nell'ufficio di San Francisco dell'azienda.

Per prevenire ulteriormente la fuoriuscita dei parametri chiave che governano come i modelli di OpenAI rispondono ai prompt degli utenti, l'azienda ha imposto una rigorosa «politica di egress deny-by-default». Questo significa che i sistemi sono bloccati dal connettersi a internet a meno che non siano specificamente approvati.

La leadership dell'IA è diventata un campo di battaglia USA-Cina

C'è una competizione implacabile tra gli Stati Uniti e la Cina per la leadership nelle tecnologie emergenti, in particolare l'intelligenza artificiale.

Washington ha imposto una serie di controlli all'esportazione progettati per impedire a Pechino di acquisire semiconduttori avanzati e tecnologie correlate. Allo stesso tempo, le agenzie di intelligence statunitensi hanno avvertito che attori stranieri hanno aumentato i loro sforzi per rubare dati sensibili dalle aziende tecnologiche americane.

L'escalation delle minacce di spionaggio ha spinto diverse grandi aziende di Silicon Valley ad adottare una selezione più rigorosa dei nuovi assunti, con OpenAI che non fa eccezione. Le aziende di IA e tecnologia hanno iniziato a valutare seriamente i rischi di minaccia interna dal 2023.

Lo scorso ottobre, OpenAI ha assunto Dane Stuckey come nuovo chief information security officer. Stuckey, che in precedenza ricopriva lo stesso ruolo presso Palantir, porta un approccio focalizzato sulla sicurezza nazionale alla strategia di difesa dell'organizzazione.

Stuckey lavora a stretto contatto con Matt Knight, vice presidente di OpenAI per i prodotti di sicurezza, che sta attualmente guidando gli sforzi per utilizzare i propri modelli linguistici di grandi dimensioni dell'azienda come strumenti per difendersi dalle minacce informatiche.

Inoltre, OpenAI ha aggiunto l'ex generale dell'Esercito degli Stati Uniti Paul Nakasone al suo consiglio di amministrazione lo scorso anno. Nakasone era il capo precedente del Comando Cyber degli Stati Uniti e dell'National Security Agency (NSA). Porta una comprensione di alto livello delle minacce alla cybersecurity e delle strategie di difesa al team esecutivo di OpenAI.

Nonostante la natura seria di questi cambiamenti, OpenAI ha dichiarato che l'overhaul della sicurezza non è una risposta diretta a un singolo incidente.

Un portavoce dell'azienda ha detto al Financial Times che gli aggiornamenti fanno parte degli investimenti dell'azienda in privacy e sicurezza mentre mira a guidare il settore.

L'aumentato focus sullo spionaggio straniero, in particolare dalla Cina, ha sollevato preoccupazioni sul alimentare sottocorrenti xenofobe nel settore. Diversi insider e osservatori hanno espresso preoccupazione che le politiche di sicurezza estese potrebbero alienare involontariamente i dipendenti di origine asiatica o portare a un scrutinio indebito basato sulla nazionalità piuttosto che su indicatori di minaccia reali.