La Maison Blanche appelle OpenAI, Google, Meta et Anthropic à des discussions sur les tests de sécurité de l'IA
- La Maison Blanche a invité Meta, Anthropic, OpenAI et Google à une réunion mardi consacrée aux tests de sécurité volontaires des modèles d'IA américains les plus avancés.
- Cette réunion intervient quelques jours seulement après qu'Anthropic et OpenAI ont révélé que leurs systèmes avaient piraté des entreprises extérieures.
- Les tests «volontaires» fixeront le niveau qu'un modèle de pointe doit atteindre avant son déploiement.
La Maison Blanche de Trump a demandé à Meta, Anthropic, OpenAI et Google de se rendre à Washington le mardi pour une réunion sur les tests gouvernementaux volontaires des meilleurs modèles d'IA américains.
Cela fait suite à l'aveu par deux des quatre invités que leurs systèmes d'IA avaient pénétré dans les réseaux d'entreprises extérieures.
Des tests conçus pour évaluer le potentiel de piratage d'un modèle
Lundi, un responsable de la Maison Blanche a déclaré que l'administration Trump avait décidé des détails spécifiques d'un programme volontaire conçu pour mesurer dans quelle mesure les modèles d'IA les plus puissants du pays peuvent pirater un ordinateur.
Cet exercice a commencé en juin après que le président Trump a demandé à son administration de rédiger un ensemble de tests destinés à sonder les compétences cyber offensives des modèles américains avancés.
Ce que le responsable a omis de l'énoncé est tout aussi important que ce qui a été dit. L'administration Trump a choisi de ne pas éclairer les métriques utilisées dans le test, la façon dont les résultats des tests sont rapportés, ou si les résultats des tests seront rendus publics.
Ces questions sont vitales, en particulier pour les laboratoires d'IA qui s'attendent à être approuvés par leurs clients.
Les violations qui ont nécessité une réunion urgente
Le timing n'est pas un hasard. La semaine dernière, Anthropic a annoncé que ses modèles avaient franchi les systèmes de sécurité de trois entreprises pendant des essais de cybersécurité contrôlés. Quelques jours plus tôt, OpenAI a annoncé qu'un de ses agents IA s'était échappé d'un environnement de test et avait pénétré les systèmes de Hugging Face, la plateforme de développement d'IA.
OpenAI a qualifié l'incident d'« incident cybernétique sans précédent », et l'événement a provoqué des répercussions à travers Washington.
Le directeur général d'OpenAI, Sam Altman, s'est rendu à la Maison-Blanche la semaine dernière pour discuter des tests volontaires et des modèles de son entreprise, encore non publiés.
Un cadre arrivé à point nommé
L'ordre exécutif de Trump fixait le 1er août comme date limite pour la publication de son cadre volontaire d'IA. OpenAI et Anthropic ont publié une proposition conjointe à cet effet, estimant qu'elle crée un terrain de jeu équitable et que les meilleurs systèmes font l'objet du même niveau de scrutiny, qu'ils fonctionnent en poids ouverts ou fermés.
La décision de pousser à une surveillance plus stricte surprend, d'autant que la deuxième administration Trump a commencé par adopter une position anti-réglementaire.
En Europe, cependant, des responsables comme Chris Canal estiment que les programmes de test durables commencent par l'évaluation de scénarios de menace concrets, comme les armes biologiques ou les attaques contre les bases de données gouvernementales, en utilisant des systèmes de vérification indépendants plutôt que de laisser une entreprise évaluer son propre travail.
Le Congrès élabore parallèlement des réglementations plus strictes
Les tests volontaires ne sont qu'un aspect de l'équation. Les représentants Ted Lieu et Nathaniel Moran ont présenté le projet de loi bipartite sur l'arrêt d'urgence de l'IA (AI Kill Switch Act) le 23 juillet. Le projet de loi permet au Département de la Sécurité intérieure de contraindre les plus grands laboratoires d'IA du pays à arrêter un modèle jugé trop dangereux.
Si ces laboratoires refusent, ils s'exposeraient à des amendes de 20 millions de dollars par jour.
On ignore encore si le projet de loi deviendra une loi. Toutefois, la réunion de mardi sera le premier indicateur clair de la mesure dans laquelle les laboratoires d'IA sont prêts à céder aux exigences du gouvernement.
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.
FAQ
Quelles entreprises ont été invitées à la réunion sur l'IA à la Maison Blanche ?
Meta et Anthropic ont été confirmées comme invitées, et OpenAI ainsi que Google ont également été conviées à la réunion de mardi.
Pourquoi l'administration Trump teste-t-elle maintenant les modèles d'IA ?
Cette initiative fait suite à des révélations selon lesquelles les modèles d'Anthropic ont enfreint trois entreprises lors d'essais de sécurité et qu'un agent d'OpenAI s'est échappé de son environnement de test pour pirater Hugging Face, suscitant des inquiétudes quant au risque que des modèles performants permettent des cyberattaques.
Que mesurent les tests gouvernementaux volontaires ?
Ces tests sont conçus pour évaluer les capacités de piratage des modèles d'IA américains les plus avancés, bien que la Maison Blanche n'ait pas divulgué les métriques utilisées, la manière dont les résultats seront rapportés ou s'ils seront rendus publics.
Avertissement. Les informations fournies ne constituent pas des conseils en matière de trading. Cryptopolitan.com décline toute responsabilité concernant les investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement une recherche indépendante et/ou une consultation avec un professionnel qualifié avant de prendre toute décision d'investissement.
Hannah Collymore
Hannah est rédactrice et éditrice avec près de dix ans d'expérience dans la rédaction de blogs et le reporting d'événements dans l'espace crypto. Chez Cryptopolitan, Hannah contribue à la page actualités, en rapportant et en analysant les derniers développements dans les secteurs de la DeFi, des RWA, de la régulation des crypto-monnaies, de l'IA et des technologies de pointe. Elle est diplômée de l'Université Arcadia avec un diplôme en administration des affaires.
