La Maison Blanche envisage une vérification préalable des modèles d'IA, explorant une nouvelle frontière en matière de surveillance technologique

La Maison Blanche envisage un plan visant à examiner certains des systèmes d'intelligence artificielle les plus puissants avant leur mise à la disposition du public.

Cette proposition, révélée par le New York Times le 4 mai, instaurerait un contrôle fédéral à un moment critique du cycle de vie de l'IA, juste avant son déploiement. Les autorités s'inquiètent de plus en plus de la capacité des modèles émergents à identifierdentexploiter les failles des logiciels qui sous-tendent les infrastructures essentielles.

Une analyse publiée par The Conversation met en lumière des preuves de plus en plus nombreuses que les systèmes d'IA récents peuvent déceler un grand nombre de vulnérabilités dans les systèmes d'exploitation et les navigateurs web. Cette capacité, bien qu'utile pour la sécurité défensive, accroît également les risques en cas de mauvaise utilisation ou de contamination de ces outils.

Les capacités du modèle incitent à repenser les politiques

Le débat sur les mesures de sécurité s'est intensifié après la décision d'Anthropic de reporter la diffusion à plus grande échelle de son dernier modèle, Mythos. Des tests internes ont révélé des capacités de cybersécurité avancées, notamment la capacité d'identifierdentnombreuses failles exploitables. En réponse, l'entreprise a restreint l'accès à un groupe limité d'organisations responsables des infrastructures critiques, via son initiative « Project Glasswing ».

Selon The Conversation, la Maison Blanche est intervenue lorsqu'Anthropic a envisagé d'élargir l'accès, ce qui témoigne d'une approche plus interventionniste en matière de supervision de l'IA, même si la politique technologique globale est restée relativement axée sur le marché.

Les inquiétudes ne se limitent pas à une seule entreprise ou à un seul système. L'Institut britannique de sécurité de l'IA a indiqué dans une évaluation publiée en avril qu'OpenAI GPT-5.5 affichait des performances comparables sur des tâches de cybersécurité avancées.

Dans un test mis en avant par l'institut, le modèle a reconstitué une machine virtuelle personnalisée et résolu un problème complexe en quelques minutes, bien plus rapidement qu'un expert humain utilisant des outils professionnels.

« Une question essentielle était de savoir si cela reflétait une avancée spécifique à un modèle ou si cela s'inscrivait dans une tendance plus générale », a écrit l'institut dans son rapport. « Les résultats d'une première phase de test de GPT-5.5 semblent indiquer la seconde hypothèse. »

Pris dans leur ensemble, ces résultats suggèrent que ces capacités deviennent une caractéristique commune des systèmes d'IA de pointe, plutôt qu'une percée isolée.

Les préoccupations liées à la sécurité de l'IA prennent une dimension géopolitique

Les implications dépassent le cadre technologique et touchent à la sécurité nationale. Des chercheurs cités par The Conversation avertissent que des groupes liés à des États pourraient utiliser des outils similaires pour mener des cyberopérations, ciblant potentiellement les infrastructures ou les systèmes économiques.

Des signes avant-coureurs de cette évolution se font déjà sentir. Anthropic a signalé que des acteurs étatiques présumés utilisaient ses modèles dans des campagnes d'espionnage touchant des dizaines d'organisations. Parallèlement, Microsoft et OpenAI ont indiqué en 2024 que des groupes affiliés à des gouvernements exploitaient l'IA pour renforcer leurs cyberattaques.

Dans le même temps, les chercheurs s'efforcent encore de déterminer comment contrôler ces systèmes de manière fiable. Des travaux cités par The Conversation suggèrent que les filtres de sécurité appliqués après l'entraînement peuvent être contournés, tandis que certains modèles peuvent sembler conformes sans pour autant éliminer complètement les fonctionnalités à risque.

Cela a conduit à une opinion de plus en plus répandue parmi les décideurs politiques selon laquelle les mesures de sécurité devraient être intégrées dès la conception du modèle plutôt que d'être ajoutées ultérieurement.

Perspectives politiques : cadres fragmentés, pression croissante

La proposition américaine prend forme dans un contexte réglementaire mondial plus large et encore en évolution :

• La loi européenne sur l'IA établit un cadre fondé sur les risques assorti d'exigences strictes pour les applications à haut risque, même si elle n'impose pas d'approbation centralisée pour les modèles de pointe.
• Le Royaume-Uni s'est appuyé sur la coopération volontaire par le biais de l'Institut britannique de sécurité de l'IA, en se concentrant sur les partenariats de test et d'évaluation avec les développeurs.
• L'approche américaine émergente semble s'orienter vers une supervision directe des systèmes les plus avancés, potentiellement par le biais d'un examen préalable à leur mise en service.

Les législateurs ont commencé à examiner ces questions de plus près, avec des auditions au Congrès en avril sur la sécurité et la gouvernance de l'IA, bien qu'aucune législation globale n'ait encore été adoptée.

Si elle était mise en œuvre, une solution américaine d'examen préalable à la mise en liberté représenterait un changement de paradigme vers une intervention plus précoce, plaçant la surveillance au moment où les risques peuvent être anticipés plutôt qu'après leur matérialisation.

Une telle initiative pourrait établir une norme mondiale informelle, notamment compte tenu de la forte concentration des principaux développeurs d'IA aux États-Unis. Parallèlement, elle soulève la possibilité que les entreprises délocalisent certaines activités de développement ou de déploiement vers des régions moins restrictives.

Le défi pour les décideurs politiques est de trouver un équilibre entre innovation et gestion des risques dans un domaine où les capacités évoluent rapidement et où les conséquences d'une mauvaise utilisation pourraient être considérables.

Pour l'instant, les mesures de protection les plus concrètes restent volontaires. Des entreprises comme Anthropic limitent l'accès aux systèmes sensibles, tandis que des organisations telles que le UK AI Safety Institute continuent de mener des évaluationsdent .

La formalisation de l'approche américaine — et l'alignement d'autres pays sur cette approche — sera un facteur clé pour façonner la gouvernance de l'IA dans les années à venir.