Anthropic, OpenAI et Google pèsent la création d'un organe de normes de l'industrie commun

Anthropic, OpenAI et Google ont discuté de la formation d'un organe de normes de l'industrie collaboratif, selon un rapport par The Information. Cela donnerait aux plus grands laboratoires de pointe l'opportunité d'établir les normes de sécurité selon lesquelles leurs propres modèles seront évalués.

Pour les entreprises qui évaluent s'il faut ou non utiliser des modèles de pointe pour des tâches sensibles, l'introduction de normes communes augmenterait leur certitude quant à l'adoption. Mais ce même cadre pourrait aussi renforcer les plus grands acteurs. L'OCDE a précédemment averti que les coûts fixes élevés, le manque de ressources informatiques et la concentration des infrastructures rendent déjà difficile l'entrée des entreprises sur le marché de l'IA. Les coûts de conformité pourraient ajouter un obstacle supplémentaire que les laboratoires plus petits devront surmonter.

Les propositions déjà sur la table

Le 14 juillet, Demis Hassabis, directeur de Google DeepMind, a suggéré la création d'un organe de normes pour l'IA de pointe basé aux États-Unis, inspiré par l'Financial Industry Regulatory Authority (FINRA).

Dans sa proposition, les laboratoires de pointe soumettraient volontairement leurs technologies avancées à une évaluation, avec une période d'évaluation de 30 jours avant leur mise sur le marché. Les évaluateurs évalueraient la sécurité des technologies pour s'assurer qu'elles ne présentent aucun risque, tel que la cybersécurité, les menaces biologiques ou la manipulation.

Le Conseil des relations étrangères (CFR) a rapporté que la Maison-Blanche examinait déjà l'idée introduite par Hassabis. Selon sa proposition, il ne serait obligatoire de passer par le processus d'évaluation qu'à une étape ultérieure, afin de déployer les technologies de pointe aux États-Unis.

Dans son article de septembre intitulé « Nous devons rythmer la frontière », Dario Amodei, PDG d'Anthropic, aborde le problème sous un angle différent. Selon lui, les efforts de sécurité doivent disposer de plus de temps pour rattraper les capacités de l'IA. La solution pour Amodei consiste à autoriser des évaluateurs indépendants comme METR à visiter les laboratoires de pointe pendant de longues périodes, ce qui ouvrirait la voie à une collaboration entre les grandes entreprises d'IA des États démocratiques concernant les normes de sécurité.

Pourquoi ce n'est pas la première tentative

Il est important de noter que les organisations de sécurité dirigées par l'industrie existent depuis quelque temps. En fait, en 2023, le Frontier Model Forum s'est uni à six grandes entreprises d'IA dans le cadre de l'effort visant à mettre en place un programme de recherche indépendant sur la sécurité grâce au Fonds pour la sécurité de l'IA de plus de 10 millions de dollars USD.

La Fondation Agentic AI a été créée en décembre 2025 dans le cadre de la Linux Foundation et vise à développer des normes et une infrastructure ouvertes pour les agents IA. Les projets qui ont constitué la fondation incluent le Model Context Protocol d'Anthropic, le goose de Block et le AGENTS.md d'OpenAI.

OpenAI a coopéré à la création de la Fondation Appia, établie en juin 2026 avec 13 membres. La fondation vise à transformer les principes généraux de gouvernance de l'IA en spécifications, tests et preuves de conformité, qui seraient utilisés tout au long de la chaîne d'approvisionnement de l'IA.

L'urgence de coordination est également observée au-delà des organisations de l'industrie. Comme l'a rapporté Cryptopolitan, le responsable des affaires mondiales d'OpenAI, Chris Lehane, a insisté sur le fait que les États-Unis et la Chine devraient soutenir le cadre mondial de sécurité de l'IA, comparant cette initiative à la coopération nucléaire internationale.

Le problème du fossé que personne n'a résolu

Le problème clé est l'indépendance. Selon l'analyse du CFR, un régulateur financé par le secteur pourrait rencontrer des conflits similaires à ceux observés dans le cas du système de notation de crédit « émetteur-payeur » avant la crise financière de 2008, soulevant une série de questions sans réponse concernant l'accès du régulateur aux modèles de pointe, l'expertise des évaluateurs, les mesures de sécurité nationale et la fiabilité des méthodes actuelles de test.

La capacité est un autre défi. Une projection fournie par GovAI indique que 14 à 16 modèles entre 2025 et 2028 pourraient appartenir à la même ordre de grandeur que le plus grand entraînement à ce jour, ce qui signifie qu'une capacité d'examen continu est requise plutôt que des évaluations périodiques.

La concurrence est également importante. Les normes établies principalement par les plus grands laboratoires peuvent devenir des coûts fixes, plus faciles à supporter pour les acteurs établis que pour les startups. Si un cadre volontaire devient une obligation, il est nécessaire d'introduire des mécanismes qui empêcheront la conformité en matière de sécurité de fonctionner comme une barrière à l'entrée sur le marché.

Tout ce qui est créé doit être corrélé avec l'Europe. Le Code de pratique pour les IA à usage général de l'Union européenne, introduit en juillet 2025 pour servir de moyen volontaire de prouver la conformité au règlement IA, a déjà inclus Anthropic, Google, Microsoft et OpenAI comme signataires. Par conséquent, tout nouvel organe de normes américain ou dirigé par l'industrie devrait entrer dans un paysage de gouvernance déjà encombré plutôt que d'en créer un nouveau.