OpenAI suspend des comptes liés à la Chine utilisant ChatGPT pour un outil de surveillance
- Après une enquête, OpenAI a suspendu plusieurs comptes qui semblaient utiliser ChatGPT pour développer des outils de surveillance.
- Selon un rapport publié par l'entreprise, les comptes suspendus ont été identifiés en fonction de modèles comportementaux et liés à la Chine
- Cette mesure prise par OpenAI souligne son engagement à empêcher les régimes autoritaires d'utiliser les technologies de l'IA à des fins oppressives.
OpenAI, la principale startup d'intelligence artificielle américaine, vient de bannir plusieurs comptes sur ChatGPT, les accusant d'être impliqués dans le développement d'un outil de surveillance.
Selon un rapport d'entreprise publié en février 2025, les comptes suspendus auraient des liens avec la Chine. Ces comptes auraient utilisé les modèles d'OpenAI pour générer des descriptions détaillées d'un outil d'écoute des réseaux sociaux, qu'ils prétendaient utilisé pour fournir des commentaires en temps réel sur les manifestations en Occident aux services de sécurité chinois.
Les comptes bannis avaient également trouvé un moyen d'utiliser les modèles d'OpenAI pour déboguer du code apparemment destiné à implémenter un tel outil.
Pourquoi la Chine est suspectée
OpenAI a mis en place des politiques visant à empêcher l'utilisation de l'IA pour surveiller les communications ou effectuer une surveillance non autorisée de personnes, y compris les activités menées par ou au nom de gouvernements qui cherchent à supprimer les libertés et les droits individuels.
OpenAI a pu identifier les comptes en question sur la base de modèles comportementaux, parmi d'autres éléments. Selon les rapports, les comptes utilisaient les modèles d'OpenAI pour aider à l'analyse de documents, générer des arguments de vente, rédiger des descriptions d'outils de surveillance de l'activité sur les réseaux sociaux, et rechercher des acteurs et des sujets politiques.
Les comptes sont soupçonnés d'avoir des origines chinoises car leurs activités se sont principalement déroulées pendant les heures de travail en Chine continentale, et les comptes ont interagi avec les modèles d'OpenAI en langue chinoise.
OpenAI a également constaté que les personnes derrière ces comptes utilisaient les outils de manière cohérente avec une saisie manuelle plutôt qu'une automatisation. Dans certains cas, l'entreprise d'IA a découvert qu'un compte pouvait avoir plusieurs opérateurs.
L'une des principales activités de cette opération consistait à générer des descriptions détaillées, conformes à des arguments de vente, pour ce qui était décrit comme l'« Assistant d'opinion publique internationale par IA Qianyue ».
Cet outil était conçu pour analyser les publications et les commentaires de plateformes telles que X, Facebook, YouTube, Instagram, Telegram et Reddit, et pour transmettre aux autorités chinoises les informations recueillies.
Malheureusement, OpenAI n'a pas pu vérifier indépendamment ces descriptions, et l'incident a mis les États-Unis en état d'alerte maximale. Selon Ben Nuimmo, l'enquêteur principal d'OpenAI, ce cas est un exemple de la manière dont les régimes autoritaires comme la Chine peuvent tenter d'utiliser la technologie construite aux États-Unis contre les États-Unis et leurs alliés.
« C'est un aperçu assez troublant de la façon dont un acteur non démocratique a essayé d'utiliser une IA démocratique ou basée aux États-Unis à des fins non démocratiques, selon les documents qu'ils généraient eux-mêmes. »
OpenAI a également révélé que les comptes mentionnaient d'autres outils d'IA, y compris une version de Llama, le modèle d'IA open-source de Meta.
Cette affaire survient peu après la création de DeepSeek
OpenAI alerte sur les dangers de l'IA chinoise, surtout après que DeepSeek a impressionné avec son modèle de raisonnement R1, qui a battu de nombreux autres modèles américains dans les benchmarks et a provoqué une forte vente d'actions technologiques sur les marchés américains.
DeepSeekLa supériorité de [produit] est discutable, et ses créateurs affirment l'avoir développé à une fraction du coût des modèles américains traditionnels. Cette affirmation a suscité des réactions mitigées du public, mais de nombreux experts sont convaincus qu'il s'agit d'une exagération.
OpenAI est non seulement convaincu que l'équipe derrière DeepSeek a dépensé plus pour son développement, mais elle a également accusé DeepSeek d'avoir distillé la sortie de ses modèles pour créer le sien.
Selon un rapport de Bloomberg, Microsoft, un investisseur majeur d'OpenAI, enquête désormais sur l'utilisation non autorisée des données de l'entreprise.
David Sacks, récemment nommé « commissaire à l'IA et à la crypto » de la Maison Blanche, a fait écho aux préoccupations d'OpenAI, suggérant que DeepSeek aurait pu utiliser les modèles de l'entreprise américaine pour s'améliorer, un processus appelé distillation des connaissances.
« Il existe des preuves substantielles que ce que DeepSeek a fait ici, c'est qu'il a distillé les connaissances des modèles d'OpenAI », a déclaré Sacks a déclaré.
Il a ajouté que dans les prochains mois, les principales entreprises d'IA américaines prendront des mesures pour empêcher la distillation, espérant ainsi ralentir certains modèles copieurs.
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Hannah Collymore
Hannah est rédactrice et éditrice avec près de dix ans d'expérience dans la rédaction de blogs et le reporting d'événements dans l'espace crypto. Chez Cryptopolitan, Hannah contribue à la page actualités, en rapportant et en analysant les derniers développements dans les secteurs de la DeFi, des RWA, de la régulation des crypto-monnaies, de l'IA et des technologies de pointe. Elle est diplômée de l'Université Arcadia avec un diplôme en administration des affaires.
