Bill Gates exige des garde-fous IA légalement requis alors que l'investissement mondial dépasse 1 000 milliards de dollars

Bill Gates a averti que les entreprises d'IA ne devraient pas être autorisées à s'auto-réglementer et exhorte Washington à établir des réglementations de sécurité.

Le cofondateur de Microsoft a présenté ses arguments lors d'une interview avec NBC News diffusée le 25 septembre, deux jours avant la diffusion de l'intégralité de l'interview sur « Meet the Press ».

Il a émis cet avertissement alors que Goldman Sachs prévoit que les investissements mondiaux en IA dépasseront 1 000 milliards de dollars en 2026. Cela signifie que les nouvelles réglementations de sécurité pourraient avoir des conséquences importantes pour les développeurs, les investisseurs et les entreprises qui travaillent à la mise en œuvre des nouveaux systèmes de sécurité pour l'application des règles.

« Personne ne pense que l'auto-réglementation est suffisante »

Gates a répondu : « Absolument » lorsque la moderatrice Kristen Welker a interrogé le besoin d'action du Congrès.

Selon Gates, « Personne ne pense que l'auto-réglementation est suffisante. » Il croit que des lois définies devraient être établies par les législateurs et les organismes d'application de la loi sur la façon dont les entreprises d'IA surveillent les risques et quels garde-fous elles doivent mettre en place. Il a décrit les responsabilités des développeurs comme « un peu de frais généraux », plutôt que quelque chose qui ralentit le progrès.

Sa préoccupation va bien au-delà de l'abus habituel. Selon Gates dans une interview avec NBC, l'IA est « certainement assez puissante pour provoquer des événements qui, vous savez, causent un milliard de morts », surtout lorsque ces systèmes avancés tombent entre les mains de personnes mal intentionnées.

Les leaders du secteur ont des avis divergents sur l'étendue de ces garde-fous. Le PDG d'Anthropic, Dario Amodei, a évoqué l'idée d'un « rythme complet, voire d'une 'pause' » comme forme la plus extrême de ralentissement collectif. Sam Altman, PDG d'OpenAI, a exprimé une préoccupation similaire, soutenant que « le rythme vaudra largement ce coût » et que la pression de devancer la concurrence ne doit pas servir d'excuse pour agir de manière imprudente.

Cependant, le PDG de Meta, Mark Zuckerberg, a dit le contraire. Dans une interview avec NBC News, il a déclaré : « Je ne pense pas que nous ayons besoin d'une sorte de coordination à l'échelle de l'industrie. » Il préfère que les laboratoires ralentissent seulement lorsqu'ils estiment être à risque de problèmes de sécurité.

Gates veut gérer les risques, pas arrêter le développement

Gates ne demande pas seulement au secteur technologique d'arrêter de développer des systèmes IA. Dans un essai publié dans ses Gates Notes en août, il a déclaré que l'intelligence artificielle « sera soit le plus grand égalisateur jamais inventé, soit la pire source d'injustice ».

Il a également remarqué qu'il approuverait probablement un plan crédible pour un ralentissement mondial du développement de l'IA, bien qu'il ne soit pas convaincu qu'un tel plan puisse être efficace car il existe des raisons économiques et politiques de continuer le développement.

Sa position, donc, ne consiste pas vraiment à mettre fin aux nouveaux développements ; il s'agit plutôt de préparer les entreprises, les gouvernements et les individus tandis que la technologie IA trouve son application dans des domaines tels que la médecine, le droit, les logiciels et le service client.

Un marché de 1 billion de dollars en attente des règles

Le débat sur les garde-fous se déroule au même moment que l'argent afflue dans l'IA, rendant les enjeux beaucoup plus élevés pour toute nouvelle règle. Goldman Sachs s'attend à ce que l'investissement mondial en IA dépasse 1 000 milliards de dollars en 2026, dont environ 581 milliards aux États-Unis, tandis que l'investissement cumulé depuis 2022 pourrait approcher 1,8 billion de dollars à la fin de l'année.

Malgré cette croissance des investissements en IA, Microsoft affirme que tout le monde n'a pas bénéficié d'un accès égal à ses avantages. Les données de diffusion de l'IA de Microsoft montrent un fossé croissant entre le Nord et le Sud mondiaux, tandis que l'OCDE souligne que la capacité en IA est toujours limitée à un petit nombre de pays et d'entreprises.

Cela rend la réglementation encore plus difficile à équilibrer. De meilleures protections pourraient diminuer les risques, mais, pour les petits laboratoires et les pays moins riches, le coût supplémentaire de la conformité à ces réglementations pourrait s'avérer très difficile à supporter.

Un patchwork réglementaire se forme déjà

L'appel à des réglementations plus strictes est soutenu par un nombre croissant de preuves. Le Rapport international sur la sécurité de l'IA 2026, rédigé sous la direction du lauréat du prix Turing Yoshua Bengio et créé par plus de 100 experts du domaine, décrit les dangers actuels et les menaces futures potentielles posées par les capacités croissantes des systèmes d'IA.

Pendant ce temps, les gouvernements créent déjà des réglementations autour de ces risques. Selon TRM Labs, un nouveau « patchwork » mondial de réglementation de l'IA émerge alors que différents pays adoptent des approches différentes en matière de gouvernance, de mise en œuvre et de responsabilité de l'IA.

L'Union européenne a poursuivi la mise en œuvre de tels objectifs plus agressivement que la plupart des autres pays. Selon l'Act européen sur l'IA, les fournisseurs d'IA à usage général doivent se conformer à des obligations strictes en matière de documentation, de droits d'auteur et de transparence concernant les données d'entraînement. Les modèles utilisant plus de 10^25 FLOP sont considérés comme présentant des risques systémiques, ce qui correspond à des critères supplémentaires pour l'évaluation des modèles, la gestion des risques, le signalement des accidents et la cybersécurité.

Avec l'augmentation des réglementations, le montant dépensé par les entreprises pour tenter de s'y conformer augmente. Selon Gartner, d'ici 2027, le montant dépensé par les organisations pour sécuriser l'IA augmentera de 68,7 % pour atteindre près de 4,8 milliards de dollars, avec des projections pour approcher 7,7 milliards de dollars en 2028.

Washington semble également se diriger vers un cadre réglementaire plus robuste. Comme rapporté par Cryptopolitan, les négociateurs du Sénat examinent une initiative bipartite pour établir un « devoir de diligence » pour les développeurs d'IA, ce qui pourrait permettre au gouvernement d'empêcher la publication de modèles dangereux. Si cela est approuvé, cela transférera le mécanisme de protection que Gates préconise du domaine des obligations volontaires à des responsabilités juridiquement contraignantes.