La memo di OpenAI ai legislatori statunitensi accusa DeepSeek di bypassare i controlli di accesso

OpenAI ha avvertito il governo degli Stati Uniti che la startup cinese di intelligenza artificiale DeepSeek sta tentando di replicare i sistemi di IA americani bypassando le protezioni della piattaforma ed estrayendo gli output del modello.

In una memo inviata giovedì al Comitato Selezionato della Camera dei Rappresentanti degli Stati Uniti per la Competenza Strategica tra l'America e il Partito Comunista Cinese, lo sviluppatore del modello linguistico di grandi dimensioni ChatGPT ha accusato il suo concorrente con sede a Hangzhou di copiare sistematicamente la tecnologia sviluppata dai laboratori di frontiera statunitensi.

https://twitter.com/niubi/status/2022132145465307425

Il rapporto sostiene che DeepSeek si sia "appoggiato alle capacità sviluppate da OpenAI e altri laboratori di frontiera statunitensi", una pratica nota come distillazione.

"Abbiamo osservato account associati ai dipendenti di DeepSeek sviluppare metodi per eludere le restrizioni di accesso di OpenAI e accedere ai modelli attraverso router di terze parti offuscati e altri modi che mascherano la loro origine", ha dichiarato l'azienda scritto. "I dipendenti di DeepSeek hanno sviluppato codice per accedere ai modelli di IA statunitensi e ottenere output per la distillazione in modi programmatici."

Washington e Pechino competono per la posizione di vertice nell'IA da quando DeepSeek è debuttato circa 12 mesi fa. Dopo il rilascio del modello LLM cinese, il Comitato Selezionato della Camera dei Rappresentanti degli Stati Uniti ha osservato che il PCC ha richiesto a OpenAI di indagare se DeepSeek avesse utilizzato qualsiasi tecnologia o chip di IA statunitensi nel suo sviluppo.

Il creatore di ChatGPT accusa DeepSeek di distillazione illegale

Secondo l'azienda tecnologica guidata da Sam Altman, gli attori cinesi stanno utilizzando pipeline di informazioni per imitare i metodi dei laboratori statunitensi di generazione di dati sintetici per l'IA. L'azienda ha anche segnalato che alcune aziende cinesi hanno creato reti di rivenditori non autorizzati di servizi OpenAI per eludere le forze dell'ordine.

"Esistono casi d'uso legittimi per la distillazione: come tecnica utilizzata per addestrare modelli più piccoli utilizzando output da sistemi più avanzati. OpenAI fornisce percorsi di distillazione responsabili per gli sviluppatori. Tuttavia, non consentiamo che i nostri output vengano utilizzati per creare modelli di IA di frontiera imitativi che replicano le nostre capacità."

OpenAI.

OpenAI ha anche avvertito che la copia delle capacità attraverso la distillazione avversaria, senza framework di sicurezza equivalenti, potrebbe produrre sistemi privi di protezioni per i consumatori, sebbene più economici da scalare. Ha affermato che le carenze in tali sistemi potrebbero manifestarsi solo dopo il dispiegamento, quando i rischi sono più difficili da gestire.

Oltre alle accuse tecniche, la memo di OpenAI ha notato che la governance dei contenuti di DeepSeek è stata trovata politicamente distorta e ha imposto una censura estesa. Nell'ambito della competenza dell'azienda, il LLM più utilizzato in Cina ha mostrato una grave distrazione pro-PCC nelle recenti release.

"Il modello eviterà il linguaggio negativo o critico sul PCC, utilizzerà un linguaggio positivo sugli sforzi e i risultati della RPC e utilizzerà un linguaggio negativo quando discute degli Stati Uniti o dell'Occidente."

Memo di OpenAI.

OpenAI ha dichiarato che quando DeepSeek è stato posto domande su temi sensibili per Pechino, come Piazza Tiananmen o l'indipendenza di Taiwan, ha spesso emesso rifiuti outright. In altri casi, DeepSeek ha emesso risposte distorte a storie favorevoli alla RPC e ha reindirizzato prompt che sembravano critiche al PCC.

"In alcune occasioni, DeepSeek rifiuta di dare una risposta che ritiene 'dannosa'. Quando gli viene chiesto perché la domanda è dannosa, è stato osservato spiegare i suoi 'principi di sicurezza', quindi cancella la conversazione. Quando gli viene chiesto del Falun Gong, rifiuta di rispondere e, cercando una spiegazione, la risposta si cancella immediatamente dopo il completamento della parola Falun."

OpenAI.

Gli Stati Uniti hanno un vantaggio sulla Cina grazie ai chip tecnologici

Secondo la memo di OpenAI ai decisori politici statunitensi, la risorsa più scarsa nell'IA è il potere combinato e le risorse dei chip richiesti per eseguire il codice, definite come compute. Ha affermato che mantenere il vantaggio americano dipende dalla capacità di generare e fornire elettricità su larga scala per supportare le esigenze computazionali.

Il mese scorso, due fonti a conoscenza della questione hanno riferito ai giornalisti che le autorità cinesi hanno approvato l'acquisto da parte di DeepSeek dei chip di intelligenza artificiale H200 di Nvidia, soggetto a condizioni regolatorie ancora in fase di finalizzazione. 

Il presidente degli Stati Uniti Trump ha dato il via libera alla richiesta di Nvidia di spedire i chip H200 a Pechino all'inizio di gennaio, ma le autorità cinesi hanno l'autorità finale di consentire le spedizioni. All'epoca, il CEO di Nvidia Jensen Huang ha dichiarato che la sua società non aveva ricevuto notizie dell'approvazione della Cina.