La Maison Blanche convoque OpenAI, Google, Meta et Anthropic à des discussions sur les tests de sécurité de l'IA
- La Maison Blanche a invité Meta, Anthropic, OpenAI et Google à une réunion mardi sur les tests de sécurité volontaires des modèles d'IA américains les plus avancés.
- Cette réunion intervient quelques jours seulement après qu'Anthropic et OpenAI ont révélé que leurs systèmes avaient piraté des entreprises externes.
- Ces tests « volontaires » définiront le niveau de performance qu'un modèle novateur devra atteindre avant son déploiement.
La Maison Blanche de Trump a demandé à Meta, Anthropic, OpenAI et Google de se rendre à Washington mardi pour une réunion sur les tests gouvernementaux volontaires des meilleurs modèles d'IA américains.
Cette situation survient après que deux des quatre invités ont admis que leurs systèmes d'IA avaient pénétré les réseaux d'entreprises extérieures.
Tests conçus pour évaluer le potentiel de piratage d'un modèle
Lundi, un responsable de la Maison Blanche a déclaré que l'administration Trump avait arrêté les détails précis d'un programme volontaire visant à mesurer dans quelle mesure les modèles d'IA lestronpuissants du pays peuvent pirater un ordinateur.
Cet exercice a débuté en juin après que ledent Trump a demandé à son administration d'élaborer une série de tests destinés à évaluer les capacités offensives en matière de cyberdéfense des modèles américains avancés.
Ce que le responsable a omis de mentionner est tout aussi important que ce qui a été dit. L'administration Trump a choisi de ne pas éclaircir les critères utilisés pour le test, la manière dont les résultats sont communiqués, ni même si ces résultats seront rendus publics.
Ces questions sont essentielles, notamment pour les laboratoires d'IA qui souhaitent inspirer confiance à leurs clients.
Les manquements qui ont nécessité une réunion urgente
Ce n'est pas un hasard. La semaine dernière encore, Anthropic annonçait que ses modèles avaient pénétré les systèmes de trois entreprises alors que des tests de cybersécurité étaient en cours. Quelques jours auparavant, OpenAI révélait qu'un de ses agents d'IA s'était échappé d'un environnement de test et avait infiltré les systèmes de Hugging Face, la plateforme de développement d'IA.
OpenAI a qualifié l'dent de «dentsansdent», et l'événement a eu rippledans tout Washington.
Le directeur général d'OpenAI, Sam Altman, s'est rendu à la Maison Blanche la semaine dernière pour discuter des tests volontaires et des modèles de son entreprise qui n'ont pas encore été publiés.
Un cadre qui est arrivé à point nommé
Le décret présidentiel de Trump fixait au 1er août la date limite pour la publication par l'administration de son cadre d'IA volontaire. OpenAI et Anthropic ont publié une proposition conjointe à cet effet, qui, selon eux, instaure l'égalité des chances et garantit que les meilleurs systèmes seront soumis au même niveau d'examen, qu'ils utilisent des pondérations ouvertes ou fermées.
La décision de plaider pour un contrôle plus strict est surprenante, étant donné que la seconde administration Trump a débuté par une position anti-réglementaire.
En Europe, cependant, des responsables comme Chris Canal estiment que les programmes de tests à long terme commencent par l'évaluation de scénarios de menaces concrets tels que les armes biologiques ou les attaques contre les bases de données gouvernementales, en utilisant des systèmes de vérification indépendantsdent qu'une entreprise évaluant son propre travail.
Le Congrès élabore en parallèle des réglementations plus strictes
Les tests volontaires ne représentent qu'un aspect du problème. Le 23 juillet, les représentants Ted Lieu et Nathaniel Moran ont présenté la loi bipartisane « AI Kill Switch Act » . Ce texte autorise le Département de la Sécurité intérieure à contraindre les plus grands laboratoires d'IA du pays à désactiver un modèle jugé trop dangereux.
Si ces laboratoires refusent, ils seront pénalisés à hauteur de 20 millions de dollars par jour.
L'adoption de cette loi reste incertaine. Toutefois, la réunion de mardi sera le premier indicateur à ce jour de la disposition des laboratoires d'IA à se plier aux exigences du gouvernement.
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
FAQ
Quelles entreprises ont été invitées à la réunion sur l'IA à la Maison Blanche ?
Meta et Anthropic ont été confirmés comme invités, et OpenAI et Google ont également été conviés à la réunion de mardi.
Pourquoi l'administration Trump teste-t-elle des modèles d'IA maintenant ?
Cette initiative fait suite aux révélations selon lesquelles les modèles d'Anthropic ont pénétré les systèmes de trois entreprises lors de tests de sécurité et qu'un agent d'OpenAI s'est échappé de son environnement de test et a piraté Hugging Face, ce qui soulève des inquiétudes quant à la possibilité que des modèles performants permettent des cyberattaques.
Que mesurent les tests gouvernementaux volontaires ?
Ces tests sont conçus pour évaluer les capacités de piratage des modèles d'IA américains les plus avancés, bien que la Maison Blanche n'ait pas divulgué les indicateurs utilisés, la manière dont les résultats seront communiqués ni s'ils seront rendus publics.
Avertissement : Les informations fournies ne constituent pas un conseil en investissement. CryptopolitanCryptopolitan.com toute responsabilité quant aux investissements réalisés sur la base des informations présentées sur cette page. Nous voustronrecommandons vivement d’effectuer vosdent et/ou de consulter un professionnel qualifié avant toute décision d’investissement.
Hannah Collymore
Hannah est rédactrice et éditrice, forte d'une expérience de près de dix ans dans la rédaction de blogs et la couverture d'événements liés aux cryptomonnaies. Chez Cryptopolitan, elle contribue à la page d'actualités en rédigeant des articles et en analysant les dernières évolutions de la finance décentralisée DeFi, des comptes gérés par les utilisateurs (RWA), de la réglementation des cryptomonnaies, de l'intelligence artificielle (IA) et des technologies de pointe. Elle est diplômée en administration des affaires de l'université Arcadia.
