OpenAI ferme des comptes chinois suite à des demandes de surveillance des réseaux sociaux

OpenAI a annoncé mardi avoir fermé plusieurs comptes ChatGPT liés à des organisations gouvernementales chinoises. Ces comptes ont été suspendus après que des utilisateurs ont tenté d'obtenir de l'aide pour créer des outils destinés à suivre et surveiller l'activité sur les réseaux sociaux.

L'entreprise a publié son nouveau rapport public sur les menaces, expliquant que certains individus avaient demandé au chatbot de concevoir des outils d'« écoute » des réseaux sociaux et d'autres systèmes de surveillance. Ces demandes violaient les règles de sécurité nationale d'OpenAI. Les conclusions de la société basée à San Francisco soulèvent des inquiétudes quant aux risques de mauvaise utilisation de l'IA générative alors que les États-Unis et la Chine s'affrontent pour contrôler le développement de cette technologie et définir les réglementations qui la régissent.

OpenAI a également fermé plusieurs comptes utilisant la langue chinoise et ayant employé ChatGPT pour faciliter des attaques par hameçonnage (phishing) et des opérations de logiciels malveillants. Ces comptes avaient demandé au modèle d'IA d'explorer davantage de moyens d'automatiser des tâches via le système chinois DeepSeek.

Plusieurs réseaux malveillants ont été perturbés

L'entreprise a indiqué qu'elle avait également suspendu des comptes liés à des organisations criminelles supposées de langue russe, qui utilisaient le chatbot pour aider à développer certains types de logiciels malveillants, selon Reuters. Depuis qu'OpenAI a commencé à publier des rapports publics sur les menaces en février de l'année dernière, la société soutenue par Microsoft a bloqué et signalé plus de 40 réseaux. Ses modèles d'IA ont rejeté des demandes clairement nuisibles, a précisé l'entreprise.

« Nous n'avons trouvé aucune preuve de nouvelles tactiques ou du fait que nos modèles aient fourni aux acteurs de la menace de nouvelles capacités offensives », a déclaré l'entreprise dans le rapport.

OpenAI sert désormais plus de 800 millions de personnes qui utilisent ChatGPT chaque semaine. La semaine dernière, l'entreprise est devenue la startup la plus précieuse au monde après avoir conclu une vente secondaire d'actions qui l'a valorisée à 500 milliards de dollars. C'est une hausse par rapport à sa valeur antérieure de 300 milliards de dollars, ce qui montre à quelle vitesse OpenAI a augmenté son nombre d'utilisateurs et ses revenus.

L'accord a permis aux employés d'OpenAI de vendre leurs actions à un groupe d'investisseurs. Ce groupe comprenait Thrive Capital, SoftBank, Dragoneer Investment Group, MGX d'Abou Dabi et T. Rowe Price, selon une source qui n'a pas pu s'exprimer publiquement sur le sujet.

La société a autorisé la vente de plus de 10 milliards de dollars d'actions sur le marché secondaire, a indiqué la source. Cette cession d'actions fait suite à l'investissement de SoftBank dans le tour de table primaire initial d'OpenAI, qui avait levé 40 milliards de dollars. OpenAI a généré environ 4,3 milliards de dollars de revenus au premier semestre 2025, soit une augmentation d'environ 16 % par rapport à ce qu'elle a réalisé sur l'ensemble de l'année précédente, a rapporté The Information cette semaine.

La vente intervient alors que les grandes entreprises technologiques se battent farouchement pour les talents de l'IA en offrant des packages salariaux coûteux. Meta investit des milliards dans Scale AI et a embauché son leader de 28 ans, Alexandr Wang, pour diriger sa nouvelle division d'intelligence supérieure.