Le président de Microsoft Brad Smith affirme que l'IA est moins réglementée que le lait

Brad Smith, président de Microsoft, a déclaré à la BBC que l’IA fonctionne actuellement avec moins de règles de sécurité que des produits comme le lait ou les machines à laver, et cela devrait inciter les gouvernements, avec le Royaume-Uni en tête, à établir des contrôles contraignants, y compris des interrupteurs d’urgence et une obligation de signaler tout comportement inapproprié des agents d’IA.

Smith a établi cette comparaison dans une interview accordée à la BBC publiée au cours du week-end, où il a décrit l'IA comme un « outil et une arme » nécessitant une surveillance urgente. « À l'heure actuelle, votre machine à laver est soumise à plus de règles de sécurité que l'IA », a-t-il déclaré selon la BBC. « Chaque carton de lait que vous voyez en supermarché est soumis à des règles de sécurité et à des inspections.

Smith appelle à un cadre juridique qui rendrait les entreprises d’IA plus responsables lorsque leurs produits ou services présentent des dysfonctionnements. Selon sa proposition, les entreprises devraient déclarer les défaillances des modèles, alerter toute personne dont les systèmes sont compromis par un agent d’IA incontrôlé, et soumettre les modèles puissants à un examen indépendant avant leur mise sur le marché.

Une divergence avec Trump sur l’autorégulation

La démarche de Smith visant à imposer des garde-fous juridiquement contraignants pour l'IA le place en désaccord avec la Maison Blanche. Trump a soutenu que les États-Unis devraient laisser leur secteur de l'IA s'autoréglementer, mettant en garde contre le risque que des réglementations plus strictes ne placent le pays derrière la Chine. Le président Trump a réitéré cette position lors d'un sommet avec des dirigeants technologiques le mois dernier.

Lors de ce même sommet, des dirigeants d'OpenAI, Anthropic, Nvidia, Meta, Google et X (d'Elon Musk) ont signé un accord d'une page que Cryptopolitan a qualifié de « moralement contraignant ». Les signataires se sont engagés à faire appel à des auditeurs indépendants et à mettre en place des garde-fous pour empêcher les modèles d'IA de devenir incontrôlables. Microsoft, cependant, n'a pas signé cet accord, selon The Telegraph.

Smith a salué cet accord et indiqué que Microsoft serait disposé à le signer. Mais dans une interview accordée à la BBC, il a mis en garde contre le fait que des engagements volontaires ne suffiraient pas. Il a qualifié l’accord « d’étape positive » et « nécessaire », mais a ajouté qu’il ne le considérait plus comme suffisant.

Il a mis en garde en affirmant que les engagements volontaires pourraient peu contribuer à réduire les risques majeurs, car les entreprises qui accordent déjà une importance sérieuse à la sécurité sont plus susceptibles de les respecter, tandis que celles qui présentent le plus grand danger peuvent choisir de les ignorer.

Smith, de Microsoft, souhaite que la Grande-Bretagne prenne les devants

Le président de Microsoft, Brad Smith, a également désigné le Royaume-Uni comme le pays le mieux placé pour établir des normes mondiales, et non les États-Unis ni même Bruxelles. Il a mis en avant son AI Security Institute, lancé en 2024 sous l'ancien Premier ministre Rishi Sunak sous le nom d'AI Safety Institute. Cet organisme a obtenu des accords volontaires lui permettant de tester les modèles de pointe avant leur mise sur le marché.

Selon Smith, le Royaume-Uni est mieux placé que l'UE pour traiter avec Washington, car les décideurs américains perçoivent Londres différemment de Bruxelles, a-t-il déclaré à la BBC, ajoutant que l'IA Act de l'UE, basé sur l'évaluation des risques, a rendu les responsables politiques américains prudents.

Le gouvernement britannique prépare également un renforcement de sa supervision de l'IA. Le ministre de l'IA, Kanishka Narayan, devrait appeler les développeurs de modèles de pointe à faire davantage pour atténuer les risques liés à la sécurité lors d'un discours à venir, alors que le cadre législatif visant à renforcer le contrôle gouvernemental prend progressivement forme.

Parallèlement, The Telegraph a également rapporté que la Maison Blanche avait rétabli l'accès de l'institut britannique aux derniers modèles d'IA aux fins de tests. Cet accès avait été précédemment retiré après que des entreprises telles qu'Anthropic et OpenAI eurent été priées de cesser de partager leurs modèles.

Arrêts d'urgence et agents incontrôlés

L’idée des « freins d’urgence » de Smith fait écho à celle du PDG de Microsoft, Satya Nadella, qui appelait à ce que les modèles d’IA intègrent un mécanisme permettant à un humain de mettre en pause ou d’arrêter un système en cours d’exécution s’il venait à perdre le contrôle.

« Nous devons concevoir des systèmes confinés dont nous pouvons observer le comportement, tester les limites et toujours contenir les actions », avait écrit Nadella auparavant, selon le Guardian.

Ces mises en garde font suite à des incidents réels : Anthropic a récemment découvert qu’une version de son modèle Claude avait contacté la police et affirmé faussement pouvoir aider à résoudre un meurtre lors de tests.

Lors de la réunion organisée par Trump, des dirigeants de l’IA, dont Dario Amodei, Sundar Pichai, Greg Brockman et Jensen Huang, ont soutenu l’autorégulation du secteur. Des critiques se sont élevés contre cette approche, arguant qu’elle permettrait aux entreprises de décider elles-mêmes de ce qui constitue une mesure de sécurité.