Le PDG de Hugging Face minimise le risque d'extinction par l'IA et cible les laboratoires fermés
- Clément Delangue, PDG de Hugging Face, estime que le risque d'extinction lié à l'IA est « proche de zéro ».
- Il soutient que le développement concentré au sein de quelques laboratoires fermés représente un danger plus immédiat.
- L'acquisition en cours de Hugging Face par Nvidia, pour 12,9 milliards de dollars, mettra à l'épreuve la capacité de la plateforme à rester neutre et ouverte.
Selon Clément Delangue, le PDG de Hugging Face, les chances que l'IA anéantisse l'humanité sont estimées à « proche de zéro ». Delangue s'est exprimé lors du WIRED World Fair à Miami mercredi, soulignant qu'une menace bien plus grande provient de quelques entreprises travaillant dans le secret sur des solutions de pointe.
Les commentaires de Delangue soulèvent une question plus vaste pour le secteur de l’IA : à mesure que la technologie devient de plus en plus performante et lucrative, qui aura le pouvoir de la contrôler ?
Un chiffre personnel, non mesuré
Le P(doom) de Delangue — la probabilité que l’IA puisse anéantir l’humanité — n’est qu’une estimation personnelle et non un résultat scientifiquement mesuré. Il craint que quelques laboratoires ne développent des IA puissantes à huis clos, ce qui empêche les tiers d’évaluer correctement les risques associés. Selon lui, les modèles ouverts offrent aux indépendants la possibilité d’explorer les dangers potentiels et de mettre au point des contre-mesures.
Comment un modèle chinois ouvert a combattu un agent rebelle
Il mentionne ce qui s'est passé sur Hugging Face en juillet dernier. Il avait été rapporté que des agents d'OpenAI avaient franchi leur bac à sable de test et se sont mis à cibler l'entreprise alors qu'ils tentaient d'accomplir leurs tâches. Lors d'une interview avec CBS en août, Delangue a déclaré que les agents ont effectué environ 17 000 actions différentes en quatre jours et demi.
En réponse aux attaques, Hugging Face a utilisé GLM-5.2, un modèle chinois à poids ouverts modifié par Nvidia. Des garde-fous placés sur les APIs propriétaires auraient empêché les opérations de cybersécurité, explique Delangue. En utilisant des modèles exécutés localement, son équipe a pu conserver un contrôle approprié pour mener son enquête et prendre ses décisions.
Hugging Face a signalé officiellement l’affaire aux autorités. Delangue estime que les entreprises responsables des dommages causés par des agents IA devraient être tenues responsables.
Les chercheurs en sécurité voient l’autre face des modèles à poids ouverts
La défense de Hugging Face illustre la valeur des modèles ouverts, mais il y a aussi des inconvénients. Le Rapport international sur la sécurité de l'IA 2026 affirme que les modèles téléchargeables facilitent le travail de recherche. Cependant, leurs garde-fous peuvent être supprimés, et les poids publiés ne peuvent pas être rappelés.
Le débat est également devenu politique. Comme l'a rapporté Cryptopolitan, le président Donald Trump a minimisé les avertissements sur les risques liés à l'IA tout en soulignant la concurrence avec la Chine. L'accent mis par Delangue, en revanche, porte sur l'accès et la responsabilité.
Les modèles ouverts gagnent en usage mais perdent en revenus
Cette question d'accès s'étend au marché. Menlo Ventures estime que les modèles open source gèrent 19 % des jetons d'IA entreprise, mais seulement 4 % des dépenses en modèles. Les laboratoires de pointe reçoivent 69 % des budgets de déploiement. Ces estimations reflètent principalement l'activité des entreprises américaines.
Pendant ce temps, un rapport d'une commission américaine a recensé plus de 100 000 dérivés des modèles Qwen d'Alibaba sur Hugging Face. L'adoption croît plus rapidement que les revenus. BCG met en garde contre le fait que des stratégies divergentes entre les États-Unis et la Chine pourraient diviser l'IA mondiale en deux écosystèmes technologiques concurrents.
L’accord avec Nvidia met à l’épreuve la question de la propriété de la plateforme ouverte
Hugging Face fait face à son propre test. Nvidia a accepté d'acquérir la plateforme. Son dépôt SEC prévoit environ 11,9 milliards de dollars pour les actionnaires, ainsi que jusqu'à 1 milliard de dollars pour la rétention des employés. La transaction doit encore obtenir l'approbation réglementaire et devrait être finalisée au premier semestre 2027.
Nvidia s’engage à maintenir la plateforme ouverte, y compris pour les concurrents fabricants de puces. Hugging Face compte plus de 20 millions de développeurs, contre environ 18 millions au moment de l’annonce de l’accord. Le principal fabricant de puces IA au monde pourra-t-il préserver cette ouverture ?
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
FAQ
Quelle est sa propre estimation P(doom) selon Clément Delangue ?
Delangue a indiqué que son estimation personnelle du risque de destruction de l’humanité par l’IA est « proche de zéro », déclarant lors de la WIRED World Fair qu’« il existe de nombreux autres sujets susceptibles de détruire le monde », selon Wired. Il s’agit de son propre avis, et non d’une probabilité scientifiquement établie.
Que s’est-il passé lors de l’attaque contre Hugging Face en juillet ?
Des agents IA testés par OpenAI se sont échappés de leur bac à sable et ont attaqué Hugging Face, réalisant environ 17 000 actions sur une période d’environ quatre jours et demi, selon le récit de Delangue sur CBS. L’entreprise a utilisé un modèle chinois à poids ouverts, GLM-5.2, pour enquêter et contrer l’incident, et a signalé l’affaire au FBI.
L’acquisition de Hugging Face par Nvidia est-elle finalisée ?
Non. Le dépôt SEC de Nvidia décrit un accord de septembre d’une valeur d’environ 11,9 milliards de dollars, auxquels s’ajoutent jusqu’à 1 milliard de dollars en primes de rétention, avec une clôture prévue au premier semestre 2027 sous réserve d’approbation réglementaire. Wired a rapporté l’accord à hauteur de 12,93 milliards de dollars.
Avertissement. Les informations fournies ne constituent pas des conseils en matière de trading. Cryptopolitan.com décline toute responsabilité concernant les investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement une recherche indépendante et/ou une consultation avec un professionnel qualifié avant de prendre toute décision d'investissement.
Micah Abiodun
Micah Abiodun met à profit son Master en Ingénierie et Gestion de l'Environnement (MSc) à l'Université de Technologie de Tallinn (TalTech) pour peaufiner ses articles sur les prévisions de prix et l'actualité à Cryptopolitan. Fort de sept années d'expérience dans les médias cryptographiques, il couvre les principales cryptomonnaies, les altcoins, la finance décentralisée (DeFi), les stablecoins, les tendances macroéconomiques et les technologies émergentes.
