Anthropic, OpenAI et Google envisagent la création d'un organisme commun de normalisation de l'IA

D'après un article de The Information, Anthropic, OpenAI et Google ont évoqué la possibilité de créer un organisme collaboratif de normalisation industrielle. Ce dernier permettrait aux plus grands laboratoires de recherche de définir les normes de sécurité selon lesquelles leurs modèles seraient évalués.

Pour les entreprises qui évaluent l'opportunité d'utiliser des modèles de pointe pour des tâches sensibles, l'introduction de normes communes renforcerait leur confiance dans leur adoption. Cependant, ce même cadre pourrait avantager les acteurs les plus importants. L' OCDE a déjà souligné que les coûts fixes élevés, le manque de ressources informatiques et la concentration des infrastructures rendent déjà difficile l'accès au marché de l'IA pour les entreprises. Les coûts de mise en conformité pourraient constituer un obstacle supplémentaire pour les laboratoires de plus petite taille.

Les propositions déjà sur la table

Le 14 juillet, Demis Hassabis, directeur de Google DeepMind, a proposé une initiative pour un organisme de normalisation de l'IA de pointe basé aux États-Unis, inspiré par la Financial Industry Regulatory Authority (FINRA).

Dans sa proposition, les laboratoires de pointe soumettraient volontairement leurs technologies avancées à une évaluation, avec un délai de 30 jours avant leur diffusion. Les évaluateurs examineraient la sécurité des technologies afin de s'assurer qu'elles ne présentent aucun risque, notamment en matière de cybersécurité, de menaces biologiques ou de manipulation.

Le Council on Foreign Relations (CFR) a indiqué que la Maison Blanche examinait déjà l'idée proposée par Hassabis. Selon cette proposition, il suffirait de réussir le processus d'évaluation ultérieurement pour déployer des technologies de pointe aux États-Unis.

Dans son article de septembre intitulé « Nous devons être à la pointe de la technologie », Dario Amodei, PDG d'Anthropic, aborde le problème sous un angle différent. Selon lui, les efforts en matière de sécurité doivent bénéficier de plus de temps pour rattraper les capacités de l'IA. La solution proposée par Amodei consiste à autoriser des évaluateurs indépendantsdent METR à visiter les laboratoires de pointe pendant des périodes prolongées, ce qui favoriserait la collaboration entre les grandes entreprises d'IA des États démocratiques en matière de normes de sécurité.

Pourquoi ce n'est pas la première tentative

Il est important de noter que les organismes de sécurité pilotés par l'industrie existent depuis un certain temps. En effet, en 2023, le Frontier Model Forum s'est associé à six grandes entreprises d'IA dans le cadre d'un effort visant à mettre en place un programme de recherchedent sur la sécurité grâce au Fonds pour la sécurité de l'IA doté de plus de 10 millions de dollars américains.

La fondation Agentic AI a été créée en décembre 2025 au sein de la Linux Foundation et vise à développer des standards et une infrastructure ouverts pour les agents d'IA. Parmi les projets fondateurs figurent le Model Context Protocol d'Anthropic, le projet Goose de Block et AGENTS.md d'OpenAI.

OpenAI a collaboré à la création de la Fondation Appia, fondée en juin 2026 et composée de 13 membres. Cette fondation a pour objectif de transformer les principes généraux de gouvernance de l'IA en spécifications, tests et preuves de conformité, qui seraient utilisés tout au long de la chaîne d'approvisionnement de l'IA.

Ce besoin de coordination se manifeste également au-delà des organisations industrielles. Comme le rapporte Cryptopolitan, Chris Lehane, responsable des affaires internationales d'OpenAI, a insisté sur le fait que les États-Unis et la Chine devraient soutenir un cadre mondial pour la sécurité de l'IA, comparant cette initiative à la coopération nucléaire internationale.

Le problème des douves reste irrésolu

Le problème majeur réside dans l'indépendance. Selon l' analyse du CFR, un organisme de réglementation financé par le secteur pourrait se trouver confronté à des conflits d'intérêts similaires à ceux observés dans le cas du système de notation de crédit « émetteur-payeur » avant la crise financière de 2008, soulevant une série de questions restées sans réponse concernant l'accès de cet organisme aux modèles de pointe, l'expertise des évaluateurs, les mesures de sécurité nationale et la fiabilité des méthodes d'évaluation actuelles.

La capacité représente un autre défi. Selon les projections de GovAI , 14 à 16 modèles créés entre 2025 et 2028 pourraient être du même ordre de grandeur que la plus grande campagne d'entraînement réalisée à ce jour, ce qui implique la nécessité d'une capacité de révision continue plutôt que d'évaluations périodiques.

La concurrence est également importante. Les normes établies principalement par les plus grands laboratoires peuvent devenir des coûts fixes, plus faciles à supporter pour les entreprises établies que pour les jeunes pousses. Si un cadre volontaire devient obligatoire, il est nécessaire de mettre en place des mécanismes pour éviter que la conformité aux normes de sécurité ne constitue un obstacle à l'entrée sur le marché.

Toute initiative qui sera créée devra être en phase avec l'Europe. Le Code de bonnes pratiques de l'Union européenne en matière d'IA à usage général , introduit en juillet 2025 pour permettre aux signataires de prouver volontairement leur conformité à la loi sur l'IA, compte déjà Anthropic, Google, Microsoft et OpenAI parmi ses signataires. Par conséquent, tout nouvel organisme de normalisation, qu'il soit américain ou piloté par l'industrie, devrait s'intégrer à un paysage de gouvernance déjà complexe, plutôt que d'en créer un nouveau.