Il promemoria di OpenAI ai legislatori statunitensi accusa la cinese DeepSeek di aggirare i controlli di accesso

OpenAI ha avvisato il governo degli Stati Uniti che la startup cinese di intelligenza artificiale DeepSeek sta tentando di replicare i sistemi di intelligenza artificiale americani aggirando le misure di sicurezza della piattaforma edtraci risultati del modello.

In un promemoria inviato giovedì alla Commissione speciale della Camera dei rappresentanti degli Stati Uniti sulla competizione strategica tra l'America e il Partito comunista cinese, lo sviluppatore del grande modello linguistico ChatGPT ha accusato il suo concorrente con sede a Hangzhou di copiarematicla tecnologia sviluppata dai laboratori di frontiera statunitensi.

https://twitter.com/niubi/status/2022132145465307425

Il rapporto sostiene che DeepSeek ha "sfruttato le capacità sviluppate da OpenAI e altri laboratori di frontiera statunitensi", una pratica nota come distillazione.

"Abbiamo osservato account associati a dipendenti di DeepSeek che sviluppavano metodi per aggirare le restrizioni di accesso e i modelli di accesso di OpenAI tramite router di terze parti offuscati e altri metodi che ne mascheravano la provenienza", ha scritto. "I dipendenti di DeepSeek hanno sviluppato codice per accedere ai modelli di IA statunitensi e ottenere output da elaborare tramite programmazionematic ."

Washington e Pechino si contendono il primato nell'intelligenza artificiale da quando DeepSeek ha debuttato circa 12 mesi fa. Dopo il lancio del modello LLM cinese, la Commissione per le Ricerche della Camera degli Stati Uniti ha osservato che il PCC aveva chiesto a OpenAI di verificare se DeepSeek avesse utilizzato tecnologie o chip di intelligenza artificiale statunitensi nel suo sviluppo.

Il produttore di ChatGPT accusa DeepSeek di distillazione illegale

Secondo l'azienda tecnologica guidata da Sam Altman, attori cinesi stanno utilizzando canali di informazione per imitare i metodi dei laboratori statunitensi di generazione di dati sintetici basati sull'intelligenza artificiale. L'azienda ha anche riferito che alcune aziende cinesi hanno creato reti di rivenditori non autorizzati di servizi OpenAI per eludere le forze dell'ordine.

"Esistono casi d'uso legittimi per la distillazione: come tecnica utilizzata per addestrare modelli più piccoli utilizzando output provenienti da sistemi più avanzati. OpenAI fornisce percorsi di distillazione responsabili per gli sviluppatori. Tuttavia, non consentiamo che i nostri output vengano utilizzati per creare modelli di intelligenza artificiale di frontiera che replichino le nostre capacità."

OpenAI.

OpenAI ha inoltre avvertito che la copia delle capacità tramite distillazione avversaria, senza quadri di sicurezza equivalenti, potrebbe produrre sistemi privi di protezioni per i consumatori, sebbene più economici da scalare. Ha affermato che le carenze in tali sistemi potrebbero emergere solo dopo l'implementazione, quando i rischi sono più difficili da gestire.

Oltre alle accuse di natura tecnica, il promemoria di OpenAI ha rilevato che la governance dei contenuti di DeepSeek è stata ritenuta politicamente discriminatoria e ha imposto una censura estesa. Nell'ambito del controllo dell'azienda, il LLM più utilizzato in Cina ha mostrato una forte inclinazione pro-PCC nelle sue recenti versioni.

"Il modello eviterà un linguaggio negativo o critico nei confronti del PCC, utilizzerà un linguaggio positivo riguardo agli sforzi e ai risultati della RPC e un linguaggio negativo quando si discuterà degli Stati Uniti o dell'Occidente"

Promemoria OpenAI.

OpenAI ha affermato che quando a DeepSeek sono state poste domande su argomenti sensibili per Pechino, come Piazza Tienanmen o l'indipendenza di Taiwan, ha spesso risposto con un netto rifiuto. In altri casi, DeepSeek ha fornito risposte parziali ad articoli favoriti dalla RPC e ha reindirizzato richieste che sembravano critiche al PCC.

In alcune occasioni, DeepSeek si rifiuta di fornire una risposta che ritiene 'dannosa'. Quando gli viene chiesto perché la domanda sia dannosa, è stato osservato spiegare i suoi 'principi di sicurezza', per poi cancellare la conversazione. Quando gli viene chiesto del Falun Gong, si rifiuta di rispondere e, nel cercare una spiegazione, la risposta si cancella automaticamente subito dopo aver completato la parola Falun

OpenAI.

Gli Stati Uniti hanno un vantaggio sulla Cina grazie ai chip tecnologici

Secondo il promemoria di OpenAI ai responsabili politici statunitensi, la risorsa più scarsa nell'intelligenza artificiale è la potenza e le risorse dei chip combinate necessarie per eseguire il codice, deficome elaborazione. Si afferma che il mantenimento del vantaggio americano dipende dalla capacità di generare e fornire elettricità su larga scala per supportare le esigenze computazionali.

Il mese scorso, due fonti a conoscenza della questione hanno dichiarato ai giornalisti che le autorità cinesi hanno approvato l'acquisto da parte di DeepSeek dei chip di intelligenza artificiale H200 di Nvidia, subordinatamente a condizioni normative ancora in fase di definizione. 

statunitensedent Trump ha dato il via libera alla richiesta di Nvidia di spedire i chip H200 a Pechino, ma l'autorità di regolamentazione cinese ha l'ultima parola sull'autorizzazione delle spedizioni. All'epoca, l'amministratore delegato di Nvidia, Jensen Huang, dichiarò che la sua azienda non aveva ancora ricevuto alcuna comunicazione ufficiale sull'approvazione da parte della Cina.