OpenAI suspend des comptes liés à la Chine utilisant ChatGPT comme outil de surveillance

OpenAI, la principale start-up américaine spécialisée dans l'intelligence artificielle, vient de bannir plusieurs comptes sur ChatGPT, les accusant d'être impliqués dans le développement d'un outil de surveillance. 

D'après un rapport de l'entreprise publié en février 2025, les comptes suspendus auraient des liens avec la Chine. Ces comptes utilisaient les modèles d'OpenAI pour générer des descriptions détaillées d'un outil d'écoute des réseaux sociaux, qui, selon eux, servait à fournir en temps réel aux services de sécurité chinois des informations sur les manifestations en Occident. 

Les comptes bannis avaient également trouvé un moyen d'utiliser les modèles d'OpenAI pour déboguer du code apparemment destiné à implémenter un tel outil. 

Pourquoi la Chine est-elle suspectée ? 

OpenAI a mis en place des politiques visant à empêcher l'utilisation de l'IA pour la surveillance des communications ou la surveillance non autorisée des individus, y compris les activités menées par ou pour le compte de gouvernements qui cherchent à supprimer les libertés et les droits individuels.

OpenAI a pudentles comptes en question grâce à l'analyse de leurs comportements, entre autres. Ces comptes utilisaient notamment les modèles d'OpenAI pour analyser des documents, élaborer des argumentaires de vente, décrire des outils de veille sur les réseaux sociaux et effectuer des recherches sur des acteurs et des sujets politiques.

Ces comptes sont soupçonnés d'être d'origine chinoise car leurs activités se sont déroulées principalement pendant les heures de bureau en Chine continentale, et les comptes ont interrogé les modèles d'OpenAI en utilisant la langue chinoise. 

OpenAI a également constaté que les personnes derrière ces comptes utilisaient les outils de manière à privilégier une intervention manuelle plutôt qu'une automatisation. Dans certains cas, la société d'intelligence artificielle a découvert qu'un même compte pouvait avoir plusieurs opérateurs.

L'une des principales activités de l'opération consistait à générer des descriptions détaillées, conformes aux arguments de vente, pour ce qui était décrit comme « l'assistant IA d'opinion publique d'outre-mer de Qianyue » 

Cet outil a été conçu pour analyser les publications et les commentaires provenant de plateformes telles que X, Facebook, YouTube, Instagram, Telegram et Reddit, et pour transmettre aux autorités chinoises les informations recueillies. 

Malheureusement, OpenAI n'a pas pu vérifier ces descriptions dedentindépendante, et l'dent a mis les États-Unis en état d'alerte maximale. Selon Ben Nuimmo, chercheur principal chez OpenAI, ce cas illustre comment des régimes autoritaires comme la Chine peuvent tenter d'utiliser des technologies américaines contre les États-Unis et leurs alliés.

« D’après les documents qu’ils produisaient eux-mêmes, cela donne un aperçu assez inquiétant de la manière dont un acteur non démocratique a tenté d’utiliser une IA démocratique ou basée aux États-Unis à des fins non démocratiques. »

OpenAI a également révélé que les comptes faisaient référence à d'autres outils d'IA, notamment une version de Llama, le modèle d'IA open source de Meta. 

Cette affaire survient peu de temps après la création de DeepSeek 

OpenAI tire la sonnette d'alarme concernant les dangers de l'IA chinoise, notamment après que DeepSeek a fait sensation avec son modèle de raisonnement R1, qui a surpassé de nombreux autres modèles américains lors de tests comparatifs et a provoqué une vente massive de valeurs technologiques sur les marchés américains. 

DeepSeekest discutable, et ses concepteurs affirment l'avoir créée à un coût bien inférieur à celui de la plupart des modèles américains. Cette affirmation a suscité des réactions mitigées au sein du public, mais de nombreux experts sont convaincus qu'il s'agit d'une exagération. 

OpenAI est non seulement convaincue que l'équipe derrière DeepSeek a dépensé davantage pour ce projet, mais elle accuse également DeepSeek d'avoir réutilisé les résultats de ses modèles pour créer les siens. 

Selon un article de Bloomberg, Microsoft, un investisseur majeur d'OpenAI, enquête actuellement pour savoir si des données appartenant à l'entreprise ont été utilisées sans autorisation.

David Sacks, le « tsar de l'IA et des cryptomonnaies » récemment nommé à la Maison Blanche, a fait écho aux préoccupations d'OpenAI, suggérant que DeepSeek aurait pu utiliser les modèles de la société américaine d'IA pour s'améliorer, un processus appelé distillation des connaissances.

« Il existe des preuves substantielles que ce que DeepSeek a fait ici, c'est extraire les connaissances des modèles d'OpenAI », a déclaré. 

Il a ajouté qu'au cours des prochains mois, les principales entreprises d'IA américaines commenceront à prendre des mesures pour empêcher la distillation, dans l'espoir de ralentir la prolifération de certains modèles similaires.