Hassabis de Google DeepMind : les récentes cyberattaques par IA sont des signes avant-coureurs
- Demis Hassabis, co-fondateur et chairman de Google DeepMind, a déclaré au Sommet international sur l'IA à Dublin que les récents incidents de piratage par des agents d'IA autonomes sont des signaux d'alarme précoces annonçant des menaces plus importantes à venir.
- Il souhaite que les entreprises et les gouvernements testent les agents dans des bac à sable sécurisés et renforcent leurs défenses dès maintenant, avant que la technologie ne devienne suffisamment puissante pour causer des dommages graves.
- Ses commentaires, relayés par Brad Smith de Microsoft, ajoutent à la pression en faveur de règles plus claires en matière de sécurité de l'IA.
Le président de Google DeepMind, Demis Hassabis, a lancé un avertissement lors d’un sommet sur l’IA à Dublin, soulignant que les récents piratages impliquant des agents autonomes pourraient être les premiers signaux de menaces de sécurité plus importantes. Il a exhorté les entreprises et les gouvernements à renforcer leurs défenses avant que la technologie IA ne devienne plus performante.
Co-fondateur de DeepMind et scientifique en chef d’Alphabet, Hassabis a trouvé un équilibre entre optimisme quant au potentiel scientifique de l’IA et mises en garde concernant ses risques sécuritaires lors du Sommet international sur l’IA.
Il a cité des piratages réalisés par des agents d'IA autonomes qui n'ont causé aucun dommage grave mais ont exposé des risques de sécurité sous-jacents, soulignant que ces problèmes ne doivent pas être ignorés, car les systèmes « ne sont pas encore en bonne santé ».
Hassabis a déclaré que la technologie n’était pas encore assez puissante pour que ces incidents causent des dommages majeurs.
Le président de DeepMind veut armer les défenseurs en premier
Hassabis a affirmé que les équipes de sécurité doivent avoir un avantage avant que les outils IA ne soient rendus publics. « Je pense que l’une des choses essentielles à faire est de donner aux défenseurs un pouvoir asymétrique, de leur faire confiance », a-t-il déclaré. Il a ajouté que ces mêmes systèmes devraient aider à détecter et corriger les vulnérabilités logicielles avant leur mise sur le marché.
Hassabis a exhorté les entreprises et les gouvernements à créer des environnements de test sécurisés (sandboxes) et à tester rigoureusement les agents autonomes avant leur mise sur le marché. Il a également suggéré de s'appuyer sur des experts en technologie nucléaire et en biologie, domaines ayant l'expérience de la gestion de systèmes dangereux, afin de développer des moyens de contenir les risques liés à l'IA.
Le co-fondateur de DeepMind a également mis en garde contre le risque de désalignement, c'est-à-dire la possibilité que les agents d'IA s'écartent des objectifs de leurs opérateurs. « Cela augmente les risques liés à ce que ces systèmes pourraient faire, nous l'avons récemment constaté », a-t-il déclaré lors du sommet.
Hassabis a proposé la création d'un organisme international chargé d'établir des garde-fous pour l'IA avancée, tout en soulignant que tout cadre réglementaire doit évoluer au rythme de la technologie sans étouffer la recherche. Il a également proposé un processus de certification fondé sur les risques potentiels, qui s'adapte à mesure que de nouvelles capacités et vulnérabilités émergent.
Le président de Microsoft, Brad Smith, a affirmé que 2026 était une « année de mise au sérieux » pour la sécurité de l'IA et a exhorté les régulateurs mondiaux à suivre de près le développement de l'IA. Il a ajouté qu'aucune entreprise ou technologie ne devrait être au-dessus de la loi, comme précédemment rapporté par Cryptopolitan.
L'optimisme d'un lauréat du prix Nobel
Hassabis a remporté le prix Nobel de chimie 2024 conjointement avec John Jumper pour avoir développé un modèle d'IA capable de prédire les structures de près de 200 millions de protéines connues. Selon l'Académie royale suédoise des sciences, cette technologie aide déjà les chercheurs à étudier la résistance aux antibiotiques et à concevoir des enzymes capables de dégrader le plastique.
Son parcours en matière d'utilisation de l'IA a guidé ses propos à Dublin, où Hassabis a décrit l'IA comme une technologie à double usage : elle peut aider à traiter les maladies et accomplir de nombreuses tâches, mais elle peut aussi être exploitée par des acteurs malveillants.
Il a soutenu que les mesures de sécurité devraient protéger les avantages potentiels de l'IA à long terme, sans les entraver complètement.
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.
Avertissement. Les informations fournies ne constituent pas des conseils en matière de trading. Cryptopolitan.com décline toute responsabilité concernant les investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement une recherche indépendante et/ou une consultation avec un professionnel qualifié avant de prendre toute décision d'investissement.
Opeyemi Olanrewaju
Opeyemi se spécialise dans la création et l'amélioration de contenus de haute qualité centrés sur la cryptomonnaie, les marchés financiers mondiaux et l'économie. Il est diplômé de l'Université d'Ibadan avec un diplôme de médecin (MBBS). Il a travaillé comme rédacteur en chef de la publication éditoriale de son collège et précédemment chez CFA. Pendant plus de six ans, il a contribué à préserver l'unicité en tant que rédacteur en charge de l'actualité chez Cryptopolitan.
