Le chef de l'ONU met en garde : l'IA pourrait augmenter la probabilité de guerres nucléaires

L'expansion rapide de la technologie de l'IA rend la menace d'une guerre nucléaire totale plus probable, a averti le secrétaire général de l'ONU, António Guterres. Dans une vidéo enregistrée, Guterres a déclaré que l'humanité se trouve « sur un fil » alors que les nations s'affrontent pour construire les armes les plus puissantes, mettant des vies en danger.

À lire également : Les employés affirment qu'OpenAI et Google DeepMind cachent les risques de l'IA

Selon le Guardian, le message vidéo prudent du chef de l'ONU devait être diffusé lors de la conférence annuelle de l'Association américaine de contrôle des armements (ACA) à Washington le 7 juin. Guterres a exhorté les États dotés d'armes nucléaires à « reprendre le dialogue et à convenir qu'aucun ne sera le premier à en lancer une ».

Guterres veut éloigner l'IA des armes nucléaires

Selon le secrétaire général, les systèmes conçus pour empêcher « l'utilisation, les essais et la prolifération des armes nucléaires » se sont affaiblis depuis la fin de la guerre froide, il y a plus de 30 ans.

Il existe des craintes que, à mesure que des nations comme les États-Unis et la Russie intensifient leurs actions pour se dissuader mutuellement, elles ne se tournent vers l'IA pour faciliter les procédures de lancement nucléaire. Les deux pays auraient mis leurs missiles balistiques intercontinentaux en état d'alerte maximale, ce qui signifie qu'ils sont prêts à lancer en quelques minutes.

Dans son discours vidéo à l'ACA, Guterres a déclaré :

« L'humanité est sur un fil ; le risque qu'une arme nucléaire soit utilisée a atteint des niveaux jamais vus depuis la guerre froide. Les États sont engagés dans une course aux armements qualitative. Des technologies comme l'intelligence artificielle multiplient le danger. »

Guterres a ajouté que « tous les pays doivent convenir que toute décision concernant l'usage nucléaire est prise par des humains, et non par des machines ou des algorithmes ».

En 2022, les États-Unis, le Royaume-Uni et la France ont publié une déclaration conjointe exprimant leur engagement à garantir que les humains restent aux commandes lors des lancements nucléaires. La Russie et la Chine n'ont pas encore fait un engagement similaire, selon les médias du secteur. La Fédération des scientifiques américains estime que le nombre d'armes nucléaires est passé de 70 300 en 1986 à 12 100 cette année.

Les scientifiques lancent l'alerte sur l'IA

L'avertissement de Guterres n'est pas nouveau. De nombreux scientifiques ont mis en garde contre les dangers de l'intelligence artificielle par le passé. Un rapport de 2018 du Rand Corporation indiquait que le développement de l'IA augmente le risque de guerre nucléaire. Le rapport précisait que l'intégration de l'IA, de l'apprentissage automatique et de l'analyse des big data améliorerait la capacité des armées à localiser, suivre, cibler et détruire les forces nucléaires dissuasives d'un rival.

À lire également : Une IA puissante menace l'humanité : pourquoi les experts insistent pour un moratoire mondial

D'autres se sont également mêlés au débat. Pour l'ancien responsable de produit chez Google, Bilawal Sidhu, le débat sur l'IA peut soit être traité comme celui sur le nucléaire, soit être laissé ouvert. Il a fait valoir qu'une IA open-source permettrait aux acteurs bienveillants de surveiller les mauvais acteurs, minimisant ainsi les risques.

Lors d'un précédent entretien avec Newsweek, l'ancien secrétaire d'État américain Henry Kissinger a déclaré que l'IA est « aussi conséquente » mais « moins prévisible » que les armes nucléaires. Kissinger estime que les risques de l'IA peuvent être gérés grâce à la coopération et à la réglementation internationales.

Reporting Cryptopolitan par Jeffery Gogo