Hassabis appelle les États-Unis à prendre la tête de la réglementation mondiale en matière d'IA avant la fin de l'année
- Le PDG de Google DeepMind, Demis Hassabis, souhaite la création d'un organisme de surveillance américain similaire à la FINRA pour examiner les modèles d'IA puissants et interrompre leur développement si les risques augmentent.
- Son plan prévoit que les laboratoires de pointe soumettent volontairement des modèles pour des tests de cybersécurité, de biologie et de tromperie 30 jours avant leur publication.
- Hassabis prévient que de graves risques biologiques et nucléaires pourraient apparaître dans les 18 mois à venir.
Demis Hassabis, cofondateur et PDG de Google DeepMind, souhaite que le gouvernement américain crée un nouvel organisme de surveillance chargé d'examiner les modèles d'IA les plus puissants au monde. Cet organisme aura également le pouvoir d'ordonner au secteur de ralentir ses développements si le danger s'aggrave.
Il a détaillé cela dans son manifeste, publié le 14 juillet, et a déclaré vouloir que l'organisme soit opérationnel avant la fin de l'année.
Hassabis est l'une des figures de proue de l'intelligence artificielle. Il a partagé le prix Nobel de chimie 2024 pour ses travaux sur le repliement des protéines et dirige le laboratoire à l'origine du projet Gemini.
Dans une interview, il a déclaré que le secteur avait atteint le point où la supervision de l'IA devait être systématiquematicfinancée par les laboratoires eux-mêmes, assurée par des experts techniques et responsable devant le gouvernement américain.
Que fera l'organisme américain de surveillance de l'IA ?
Hassabis s'inspire de la FINRA, l'organisme de réglementation privé financé par l'industrie qui surveille les courtiers de Wall Street sous l'autorité de la Securities and Exchange Commission.
Dans son plan, les laboratoires de pointe remettraient d'abord leurs modèles volontairement, jusqu'à 30 jours avant leur publication, afin que l'organisme puisse les tester pour détecter d'éventuelles capacités cybernétiques, biologiques et de « tromperie » dangereuses.
Il a déclaré qu'une fois ces tests validés, des règles formelles « pourraient rapidement être établies », ce qui signifie qu'un modèle devrait être approuvé avant de pouvoir être déployé sur le marché américain.
Ces normes s'appliqueraient à tous les systèmes de classe frontière, et Hassabis a ajouté que « quel que soit leur pays d'origine ou qu'ils soient ouverts ou fermés », les critères étant mis à jour au fur et à mesure des progrès technologiques.
Il souhaite également que le conseil d'administration soit majoritairementdent, composé de lauréats du prix Turing et d'autres chercheursdent, ainsi que de représentants de l'industrie, du gouvernement et des développeurs de logiciels libres. Il a déclaré que l'appellation « à la pointe de la recherche » deviendrait un gage de prestige, ajoutant : « Je pense que c'est un atout de taille, un gage de prestige. »
Pourquoi Hassabis réclame-t-il maintenant un organisme de surveillance de l'IA ?
Hassabis affirme que les cyberattaques actuelles pilotées par l'IA sont des « signaux d'alarme ». Selon lui, d'ici 18 mois, des risques biologiques et nucléaires bien plus graves pourraient être dissimulés dans des modèles open source qu'aucun gouvernement ne pourrait neutraliser. Il ajoute que la menace ne se limite pas aux systèmes ouverts et que les futurs modèles propriétaires des laboratoires présenteront les mêmes dangers.
Il a déclaré vouloir que l'organisme de surveillance soit opérationnel d'ici quelques mois et avoir passé les dernières semaines à informer l'administration Trump, les dirigeants des laboratoires concurrents et des responsables européens avant de rendre l'information publique. « Les échos que j'ai eus sont très positifs », a-t-il affirmé au sujet des discussions avec la Maison-Blanche.
Cette administration avait privilégié une approche non interventionniste jusqu'au mois dernier, date à laquelle elle a soumis les modèles Mythos et Fable d'Anthropic à un contrôle des exportations, limitant ainsi leur accès. Ce contrôle a été levé par la suite, et Anthropic a diffusé les modèles en imposant des restrictions d'accès renforcées.
OpenAI, de son côté, a accepté de limiter GPT-5.6 à des partenaires agréés par le gouvernement avant de le rendre public la semaine dernière après des tests menés avec le ministère du Commerce, une décision perçue comme une tentative d'éviter le même sort qu'Anthropic.
Hassabis affirme que l'dent est « un peu un signal d'alarme »
Un point d'accord rare
Le PDG d'Anthropic, Dario Amodei, est également d'avis qu'il devrait exister une agence ayant le pouvoir de contrôler les modèles d'IA dangereux, et plaide pour des règles contraignantes et une agence de type FAA.
La position d'Amodei est en accord avec celle de Hassabis ; cependant, ce dernier privilégie la structure plus légère et gérée par l'industrie de la FINRA.
Il convient de souligner la conviction de Hassabis que les enjeux s'accroissent rapidement. Il a déclaré que l'intelligence artificielle générale (IAG), un système capable de reproduire l'ensemble des capacités cognitives humaines, n'est « probablement plus qu'à quelques années » de son apparition, et lors d'un événement à Stanford, il a estimé que cela se produirait aux alentours de 2030, « à un an près ». Dans son manifeste, il a écrit que les chercheurs ont « trouvé le moyen de faire penser le sable », qualifiant ce résultat de « miraculeux »
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
FAQ
Que propose Demis Hassabis ?
Il propose la création d'un organisme de normalisation de l'IA basé aux États-Unis, sur le modèle de la FINRA, l'autorité de régulation de Wall Street, qui testerait les modèles les plus avancés au monde afin de détecter les dangers liés à la cybersécurité, à la biologie et à la tromperie, et qui pourrait coordonner un ralentissement du secteur en cas d'aggravation des menaces.
Quand Hassabis souhaite-t-il que le système de surveillance de l'IA soit opérationnel ?
Il a déclaré à Axios qu'il souhaitait que l'organisme soit opérationnel d'ici « quelques mois », idéalement avant la fin de 2026, et a ajouté que ses discussions avec l'administration Trump avaient donné des signaux positifs.
D'autres laboratoires d'IA partagent-ils l'avis de Hassabis ?
Les principaux responsables de laboratoires s'accordent sur la nécessité d'une réglementation de l'IA de pointe par Washington, mais divergent quant à la structure de cette réglementation. Dario Amodei, PDG d'Anthropic, plaide pour la création d'une agence similaire à la FAA, dotée du pouvoir contraignant de bloquer les modèles dangereux, tandis que Hassabis privilégie un organisme plus léger, financé par l'industrie et placé sous la supervision du gouvernement.
Hannah Collymore
Hannah est rédactrice et éditrice, forte d'une expérience de près de dix ans dans la rédaction de blogs et la couverture d'événements liés aux cryptomonnaies. Chez Cryptopolitan, elle contribue à la page d'actualités en rédigeant des articles et en analysant les dernières évolutions de la finance décentralisée DeFi, des comptes gérés par les utilisateurs (RWA), de la réglementation des cryptomonnaies, de l'intelligence artificielle (IA) et des technologies de pointe. Elle est diplômée en administration des affaires de l'université Arcadia.
