L'ancien PDG de Google, Eric Schmidt, met en garde contre un « projet de type Manhattan » pour le développement de l'IA

Dans un document de politique générale publié mercredi, l'ancien PDG de Google, Eric Schmidt, a averti que les États-Unis ne devraient pas promouvoir un projet de développement des systèmes d'IA similaire à celui de Manhattan. 

L'article intitulé «Stratégie de superintelligence» mentionne que les tentatives agressives de prise de contrôle de systèmes d'IA superintelligents pourraient entraîner des représailles de la part de pays comme la Chine. Ces représailles pourraient prendre la forme de cyberattaques, affectant directement les relations internationales. 

Ce document de politique générale a été co-écrit par Alexandr Wang, PDG de Scale AI, et Dan Hendricks, directeur du Centre pour la sécurité de l'IA. Les co-auteurs écrivent : « Un projet Manhattan [pour l'IA générale] part du principe que les concurrents accepteront un déséquilibre durable, voire un génocide, plutôt que d'agir pour l'empêcher. » 

Les auteurs ajoutent : « Ce qui commence comme une volonté de développer une super-arme et d'instaurer un contrôle mondial risque de provoquer des contre-mesures hostiles et une escalade des tensions, compromettant ainsi la stabilité même que cette stratégie prétend garantir. »

Cet article a été publié quelques mois seulement après que la Commission du Congrès américain a proposé un programme de financement, inspiré du « projet Manhattan », pour développer une intelligence artificielle générale. Ce projet s'inspire des efforts déployés par les États-Unis dans le développement de la bombe atomique dans les années 1940. 

Christ Wright, le secrétaire américain à l'Énergie, a déclaré que les États-Unis s'apprêtaient à lancer un « nouveau projet Manhattan » dans le domaine de l'intelligence artificielle. Il a affirmé : « Sous l'dent du président Trump, les États-Unis remporteront la course mondiale à l'IA, mais nous devons d'abord conquérir notre suprématie énergétique et restaurer la compétitivité américaine. »

Plusieurs dirigeants industriels et responsables politiques américains ont suggéré que la mise en œuvre d'un programme gouvernemental de développement de l'IA serait la meilleure façon de rivaliser avec des pays comme la Chine. Cependant, le document de stratégie sur la superintelligence remet en question cette idée. 

Eric Schmidt parle de destruction mutuelle assurée 

L'auteur a fait valoir que, tout comme les puissances mondiales évitent les monopoles sur les armes nucléaires (car cela peut déclencher des représailles sous forme de sabotage préventif), les États-Unis devraient se montrer prudents lorsqu'ils tentent de dominer grâce à de puissants systèmes d'IA.

Eric Schmidt a évoqué le concept de MAIM (dysfonctionnement mutuel garanti de l'IA). Il désigne la stratégie adoptée par les gouvernements de différents pays pour neutraliser activement les menaces basées sur l'IA, au lieu d'attendre que l'IA générale soit militarisée contre eux. 

Les auteurs ont soutenu qu'au lieu de se concentrer sur la « course à la superintelligence », les États-Unis devraient développer des méthodes pour dissuader les autres de créer de tels systèmes. Ils ont également ajouté que les États-Unis devraient « élargir leur arsenal de cyberattaques pour neutraliser les projets d'IA menaçants »

L'administration Trump semble toutefois déterminée à faire progresser les États-Unis dans la course à l'IA. Schmidt, quant à lui, estime qu'il est judicieux d'adopter une approche défensive, tandis que le monde observe les États-Unis repousser les limites de l'IA.