Bill Gates plaide pour des garanties juridiques obligatoires en matière d'IA alors que les investissements mondiaux dépassent 1$

Bill Gates a averti que les entreprises spécialisées dans l'IA ne devraient pas être autorisées à s'autoréguler et exhorte Washington à établir des réglementations en matière de sécurité.

Le cofondateur de Microsoft a présenté ses arguments lors d'une interview accordée à NBC News et diffusée le 25 septembre, deux jours avant la diffusion de l'intégralité de l'interview dans l'émission « Meet the Press ».

Il a lancé cet avertissement au moment même où Goldman Sachs prévoit que les investissements mondiaux dans l'IA dépasseront 1 000 milliards de dollars en 2026. Cela signifie que les nouvelles réglementations en matière de sécurité pourraient avoir des conséquences importantes pour les développeurs, les investisseurs et les entreprises qui travaillent à la mise en œuvre des nouveaux systèmes de sécurité pour l'application des règles.

« Personne ne pense que l’autorégulation soit suffisante. »

Gates a répondu : « Absolument » lorsque la modératrice Kristen Welker a interrogé le Congrès sur la nécessité d'une action.

Selon Gates, « l’autorégulation ne suffit pas ». Il estime que les législateurs et les forces de l’ordre devraient définir des lois defisur la manière dont les entreprises d’IA surveillent les risques et sur les mesures de protection qu’elles doivent mettre en place. Il décrit les responsabilités des développeurs comme « une charge supplémentaire », plutôt que comme un frein au progrès.

Son inquiétude va bien au-delà des simples mésusages. Selon Gates, lors d'une interview accordée à NBC, l'IA est « certainement assez puissante pour provoquer des événements qui, vous savez, causeraient un milliard de morts », surtout lorsque ces systèmes avancés tombent entre de mauvaises mains.

Les dirigeants du secteur ont des opinions divergentes quant à l'étendue de ces mesures de protection. Dario Amodei, PDG d'Anthropic, a suggéré l'idée d'un « ralentissement à plein régime, voire d'une simple pause » comme forme la plus extrême de ralentissement collectif. Sam Altman, PDG d'OpenAI, a exprimé une préoccupation similaire, arguant que « ce ralentissement justifiera pleinement son coût » et que la pression exercée pour garder une longueur d'avance sur la concurrence ne saurait servir de prétexte à des agissements imprudents.

Cependant, Mark Zuckerberg, PDG de Meta, a tenu un discours différent. Dans une interview accordée à NBC News, il a déclaré : « Je ne pense pas qu’une coordination à l’échelle de l’industrie soit nécessaire. » Il préfère que les laboratoires ralentissent leurs activités uniquement lorsqu’ils estiment être confrontés à des risques pour la sécurité.

Gates souhaite une gestion des risques, pas un arrêt du développement

Gates ne se contente pas de demander au secteur technologique de cesser le développement des systèmes d'IA. Dans un essai publié dans ses Gates Notes en août, il a déclaré que l'intelligence artificielle « sera soit le plus grand égalisateur jamais inventé, soit la pire source d'injustice ».

Il a également fait remarquer qu'il soutiendrait probablement un plan crédible de ralentissement mondial du développement de l'IA, même s'il n'était pas convaincu de l'efficacité d'un tel plan, car il existe des raisons à la fois économiques et politiques de poursuivre ce développement.

Sa position ne consiste donc pas simplement à mettre un terme aux nouveaux développements ; il s'agit plutôt de préparer les entreprises, les gouvernements et les particuliers à l'application de l'intelligence artificielle dans des domaines tels que la médecine, le droit, les logiciels et le service à la clientèle.

Un marché d' 1$ en attente de règles

Le débat sur les garanties se déroule au moment même où les investissements dans l'IA explosent, ce qui rend toute nouvelle réglementation d'autant plus cruciale. Goldman Sachs prévoit que les investissements mondiaux dans l'IA dépasseront 1$ 000 milliards de dollars en 2026, dont environ 581$ milliards aux États-Unis, tandis que les investissements cumulés depuis 2022 pourraient avoisiner 1.8$ d'ici la fin de l'année.

Malgré cette croissance des investissements dans l'IA, Microsoft affirme que tous n'ont pas enjde ses avantages de manière égale. Les données de Microsoft sur la diffusion de l'IA révèlent un fossé grandissant entre les pays du Nord et ceux du Sud, tandis que l' OCDE souligne que les capacités en IA restent concentrées entre les mains d'un petit nombre de pays et d'entreprises.

Cela rend la réglementation encore plus délicate. De meilleures protections pourraient réduire les risques, mais, pour les petits laboratoires et les pays les moins riches, le coût supplémentaire lié à la mise en conformité avec ces réglementations pourrait s'avérer très difficile à supporter.

Un patchwork réglementaire est déjà en train de se former

L’appel à une réglementation plus stricte est étayé par un nombre croissant de preuves. Le Rapport international sur la sécurité de l’IA 2026, rédigé sous la direction de Yoshua Bengio, lauréat du prix Turing, et élaboré par plus de 100 experts du domaine, décrit les dangers actuels et les menaces potentielles futures que représentent les capacités croissantes des systèmes d’IA.

Parallèlement, les gouvernements élaborent déjà des réglementations pour encadrer ces risques. Selon TRM Labs, un nouveau « pattern » mondial de réglementation de l’IA se dessine, chaque pays adoptant une approche différente en matière de gouvernance, de mise en œuvre et de responsabilité dans ce domaine.

L'Union européenne a poursuivi la mise en œuvre de ces objectifs avec plus de vigueur que la plupart des autres pays. Conformément à la loi européenne sur l'IA, les fournisseurs d'IA à usage général doivent respecter des obligations strictes en matière de documentation, de droits d'auteur et de transparence concernant les données d'entraînement. Les modèles utilisant plus de 10^25 FLOP sont considérés comme présentant des risques systémiques, ce qui implique des critères supplémentaires pour l'évaluation des modèles, la gestion des risques,dent et la cybersécurité.

Face à la multiplication des réglementations, les dépenses des entreprises pour s'y conformer augmentent. Selon Gartner, d'ici 2027, les investissements des organisations dans la sécurisation de l'IA devraient progresser de 68,7 % pour atteindre près de 4.8$ milliards de dollars, et avoisiner les 7.7$ milliards de dollars en 2028.

Washington semble également s'orienter vers un cadre réglementaire plus rigoureux. Selon Cryptopolitan, les négociateurs du Sénat étudient une initiative bipartite visant à instaurer une « obligation de vigilance » pour les développeurs d'IA, ce qui permettrait au gouvernement d'empêcher la diffusion de modèles non sécurisés. Si cette initiative est approuvée, le mécanisme de protection préconisé par Gates passera du domaine des obligations volontaires à celui des responsabilités juridiquement contraignantes.