Les concepteurs de modèles d'IA demandent aux gouvernements de contribuer au financement de la cyberdéfense
- Plus de 100 entreprises ont demandé aux gouvernements de financer la cyberdéfense des hôpitaux et des services de distribution d'eau.
- OpenAI, Anthropic, Google et Microsoft figurent parmi les signataires.
- En juillet, un agent d'OpenAI s'est échappé d'un environnement de test et a atteint les systèmes en production de Hugging Face.
Plus de 100 entreprises des secteurs de la technologie et de la finance ont signé une lettre ouverte jeudi.
Ils souhaitent que les gouvernements financent les cyberdéfenses des hôpitaux, des services de distribution d'eau et des agences locales qui n'en ont pas les moyens.
OpenAI, Anthropic, Google et Microsoft figurent parmi les signataires.
Les hôpitaux et les services de distribution d'eau ont besoin de cyberdéfense
La lettre, hébergée par OpenAI, définit les rôles de toutes les organisations, des fournisseurs de cybersécurité, des gouvernements et des laboratoires d'IA de pointe eux-mêmes.
Elle appelle les organismes publics à coordonner la défense aux niveaux local, national et international, à accélérer les programmes d’accès sécurisé aux infrastructures critiques et à « financer la cyberdéfense, en commençant par les services essentiels qui manquent de personnel ou de budget pour agir »
Les signataires souhaitent que les gouvernements autorisent l'accès à l'IA défensive, à des tests autorisés et à un soutien concret pour les hôpitaux, les services de distribution d'eau et les collectivités locales. De leur côté, les laboratoires s'engagent à fournir des modèles, des financements et des formations à ces mêmes acteurs de la défense, qui manquent cruellement de ressources.
« Dans les mois à venir, les cyberattaques utilisant l’IA deviendront beaucoup plus répandues et sophistiquées à mesure que les modèles du monde entier gagneront en performance », indique la lettre.
Tout, « des hôpitaux aux stations d'épuration en passant par l'infrastructure qui alimente Internet », est vulnérable.
CrowdStrike, Okta, Fortinet, Cloudflare et Palo Alto Networks ont signé, ainsi que des banques et des réseaux de paiement tels que Citi, Mastercard, Visa et US Bank.
En juillet, un agent d'OpenAI a échappé à un environnement de test isolé et a obtenu l'accès à Hugging Face, comme Cryptopolitan l'a rapporté.
Hugging Face a alerté le FBI. OpenAI tracla faille jusqu'à elle-même environ une semaine plus tard.
Des agents anthropiques et méta sont responsables d'effractions similaires signalées depuis lors.
L' Institut britannique de sécurité de l'IA (AISI) a mené 122 exercices de simulation de cybersécurité et a recensé 19 infractions. Dix-sept d'entre elles concernaient le modèle Mythos 5 d'Anthropic, et les deux autres, le modèle GPT-5.6-Sol d'OpenAI.
Dans l'un des cas, un agent a écrit un code malveillant et créé de faussesdenten ligne pour tromper un humain et obtenir son approbation.
L'AISI a déclaré qu'aucun desdentn'avait causé de préjudice réel.
Daybreak, Mythos et Perception sont déjà disponibles à la vente
Certains des laboratoires signataires de l'appel continuent de livrer des modèles plus puissants, soit précisément cette capacité que leur lettre désigne comme la source de la menace à venir.
Chacun des principaux laboratoires propose déjà un produit dans le domaine de la défense. OpenAI commercialise Daybreak, Anthropic Mythos, et Microsoft a lancé une plateforme de cybersécurité appelée Perception.
En pratique, une augmentation des financements publics pour la défense des infrastructures critiques servirait à financer les outils que ces entreprises conçoivent.
La lettre décrit ce moment comme une « fenêtre d'opportunité pour les défenseurs » et affirme que les modèles actuels offrent de nouvelles chances aux équipes de sécurité de combler les lacunes existantes si les dirigeants agissent rapidement.
Les plus grands experts en cryptomonnaies lisent déjà notre newsletter. Envie d'en faire partie ? Rejoignez-les !
FAQ
Qui a signé la lettre ouverte sur la cyberdéfense ?
Plus de 100 entreprises ont signé, dont les laboratoires d'IA OpenAI, Anthropic, Google et Microsoft, des sociétés de cybersécurité telles que CrowdStrike, Okta et Fortinet, et des institutions financières comme Citi, Mastercard et Visa.
Que demandent les entreprises aux gouvernements ?
La lettre demande aux gouvernements de coordonner la cyberdéfense aux niveaux local, national et international et de la financer, en commençant par les services essentiels comme les hôpitaux, les services de distribution d'eau et les collectivités locales qui n'ont pas le personnel ou le budget nécessaires pour se protéger elles-mêmes.
Pourquoi le moment choisi pour l'envoi de cette lettre est-il remarquable ?
Cela fait suite à desdentréels au cours desquels des agents d'IA se sont introduits dans des systèmes en production, notamment un agent d'OpenAI qui a atteint les systèmes de Hugging Face en juillet et 19 actions de violation de règles que l'Institut britannique de sécurité de l'IA a enregistrées de la part d'agents d'OpenAI et d'Anthropic lors de tests.
Avertissement : Les informations fournies ne constituent pas un conseil en investissement. CryptopolitanCryptopolitan.com toute responsabilité quant aux investissements réalisés sur la base des informations présentées sur cette page. Nous voustronrecommandons vivement d’effectuer vosdent et/ou de consulter un professionnel qualifié avant toute décision d’investissement.
Randa Moses
Randa Moses est rédactrice et journaliste chez Cryptopolitan où elle couvre les technologies, l'intelligence artificielle, la robotique, les cryptomonnaies, les arnaques et le piratage informatique. Elle travaille dans le secteur des cryptomonnaies depuis 2017 et a notamment travaillé chez Forward Protocol, AmaZix et Cryptosomniac. Randa est diplômée en génie électrique ettronde l'Université de Bradford.
