Le mémorandum d'OpenAI adressé aux législateurs américains accuse le chinois DeepSeek de contourner les contrôles d'accès
- OpenAI informe les législateurs américains que la startup chinoise en IA DeepSeek contourne les contrôles d'accès pour extraire et répliquer des modèles d'IA américains grâce à des méthodes de distillation sophistiquées.
- La note détaille les allégations de censure, de biais pro-PCC et de suppression dynamique du contenu au sein des systèmes de DeepSeek, ainsi que les préoccupations liées à l'absence de garde-fous de sécurité.
- OpenAI souligne également l'expansion rapide de la Chine dans le domaine de l'énergie et l'accès aux puces, avertissant que la capacité de calcul et les infrastructures sont au cœur de la course à l'IA entre les États-Unis et la Chine.
OpenAI a averti le gouvernement américain que la startup chinoise d'intelligence artificielle DeepSeek tente de répliquer les systèmes d'IA américains en contournant les mesures de sécurité des plateformes et en extrayant les sorties des modèles.
Dans un mémorandum envoyé jeudi au Comité spécial de la Chambre des représentants des États-Unis sur la compétition stratégique entre l'Amérique et le Parti communiste chinois, le développeur du modèle de langage large ChatGPT a accusé son concurrent basé à Hangzhou de copier systématiquement la technologie développée par les laboratoires de pointe américains.
https://twitter.com/niubi/status/2022132145465307425
Le rapport affirme que DeepSeek a « profité gratuitement des capacités développées par OpenAI et d'autres laboratoires de pointe américains », une pratique connue sous le nom de distillation.
« Nous avons observé des comptes associés aux employés de DeepSeek développant des méthodes pour contourner les restrictions d'accès d'OpenAI et accéder aux modèles via des routeurs tiers obscurcis et d'autres moyens qui masquent leur source », a déclaré l'entreprise a écrit. « Les employés de DeepSeek ont développé du code pour accéder aux modèles d'IA américains et obtenir des sorties pour la distillation de manière programmatique. »
Washington et Pékin se disputent la première place de l'IA depuis la présentation de DeepSeek, il y a environ 12 mois. Après la publication du modèle de langage large (LLM) chinois, le Comité spécial de la Chambre des représentants des États-Unis a observé que le PCC avait demandé à OpenAI d'enquêter sur la question de savoir si DeepSeek avait utilisé des technologies ou des puces d'IA américaines lors de son développement.
Le créateur de ChatGPT accuse DeepSeek de distillation illégale
Selon la firme technologique dirigée par Sam Altman, des acteurs chinois utilisent des pipelines d'information pour imiter les méthodes des laboratoires américains de génération de données synthétiques pour l'IA. L'entreprise a également signalé que certaines entreprises chinoises ont créé des réseaux de revendeurs non autorisés de services OpenAI pour échapper aux forces de l'ordre.
« Il existe des cas d'utilisation légitimes pour la distillation : en tant que technique utilisée pour entraîner des modèles plus petits à l'aide des sorties de systèmes plus avancés. OpenAI fournit des voies de distillation responsables aux développeurs. Cependant, nous n'autorisons pas l'utilisation de nos sorties pour créer des modèles d'IA de pointe imitateurs qui répliquent nos capacités. »
OpenAI.
OpenAI a également mis en garde contre le fait que la copie de capacités par distillation adversariale, sans cadres de sécurité équivalents, pourrait produire des systèmes dépourvus de protections des consommateurs, bien qu'ils soient moins coûteux à mettre à l'échelle. Elle a indiqué que les lacunes de ces systèmes pourraient ne se manifester qu'après le déploiement, lorsque les risques sont plus difficiles à gérer.
Au-delà des allégations techniques, le mémorandum d'OpenAI a noté que la gouvernance du contenu de DeepSeek s'est révélée politiquement biaisée et imposait une censure étendue. Dans le périmètre de l'entreprise, le LLM le plus utilisé en Chine a montré un biais pro-PCC sévère dans ses récentes versions.
« Le modèle évitera le langage négatif ou critique envers le PCC, utilisera un langage positif concernant les efforts et les réalisations de la RPC, et emploiera un langage négatif lorsqu'il discutera des États-Unis ou de l'Occident. »
Mémorandum d'OpenAI.
OpenAI a déclaré que lorsque DeepSeek on lui posait des questions sur des sujets sensibles pour Pékin, tels que la place Tiananmen ou l'indépendance de Taïwan, il refusait fréquemment de répondre. Dans d'autres cas, DeepSeek a fourni des réponses biaisées en faveur des histoires favorables à la RPC et a redirigé les invites qui semblaient être des critiques du PCC.
« À certaines occasions, DeepSeek refuse de donner une réponse qu'il juge « nuisible ». Lorsqu'on lui demande pourquoi la question est nuisible, il a été observé qu'il expliquait ses « principes de sécurité », puis supprimait la conversation. Lorsqu'on lui demandait des informations sur le Falun Gong, il refusait de répondre, et en cherchant une explication, la réponse s'est auto-supprimée immédiatement après la fin du mot Falun. »
OpenAI.
Les États-Unis ont un avantage sur la Chine grâce aux puces technologiques
Selon le mémorandum d'OpenAI adressé aux décideurs politiques américains, la ressource la plus rare dans l'IA est la puissance combinée et les ressources en puces nécessaires pour exécuter le code, définies comme la puissance de calcul (compute). Il a indiqué que le maintien de l'avantage américain dépend de la capacité à générer et à fournir de l'électricité à grande échelle pour répondre aux demandes de calcul.
Le mois dernier, deux sources familiarisées avec la question ont déclaré aux journalistes que les autorités chinoises avaient approuvé l'achat par DeepSeek des puces d'IA H200 de Nvidia, sous réserve de conditions réglementaires encore en cours de finalisation.
Le président américain Trump a donné son feu vert à la demande de Nvidia d'expédier des puces H200 à Pékin début janvier, mais les régulateurs chinois ont l'autorité finale pour autoriser les expéditions. À l'époque, le directeur général de Nvidia, Jensen Huang, a déclaré que son entreprise n'avait pas reçu de nouvelles de l'approbation de la Chine.
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Florence Muchai
Florence couvre depuis 6 ans l'actualité crypto, du jeu vidéo, de la technologie et de l'IA. Ses études en informatique à l'Université de sciences et technologies de Meru et sa formation en gestion des catastrophes et en diplomatie internationale à l'MMUST lui ont amplement permis de développer des compétences linguistiques, d'observation et techniques. Florence a travaillé au sein du groupe VAP et en tant qu'éditrice pour plusieurs médias spécialisés dans la crypto.
