Le chef de l'ONU avertit que l'IA pourrait accroître la probabilité de guerres nucléaires

L’expansion rapide des technologies d’intelligence artificielle accroît le risque d’une guerre nucléaire totale, a averti le secrétaire général de l’ONU, António Guterres. Dans une vidéo enregistrée, M. Guterres a déclaré que l’humanité se trouve « au bord du précipice », les nations se livrant à une course effrénée pour se doter des armements les plus performants, mettant ainsi des vies en danger.

À lire également : Des employés affirment qu’OpenAI et Google DeepMind dissimulent des risques liés à l’IA

Le message vidéo de mise en garde du secrétaire général de l'ONU devait être diffusé lors de la conférence annuelle de l'Association américaine pour le contrôle des armements (ACA) à Washington le 7 juin, rapporte le Guardian. Guterres a exhorté les États dotés de l'arme nucléaire à « reprendre le dialogue et à s'engager à ce qu'aucun ne soit le premier à lancer une arme nucléaire »

Guterres souhaite éloigner l'IA des armes nucléaires

Selon le secrétaire général, les systèmes mis en place pour empêcher « l’utilisation, les essais et la prolifération des armes nucléaires » se sont affaiblis depuis la fin de la guerre froide il y a plus de 30 ans.

On craint que, face à l'intensification des actions dissuasives entre les États-Unis et la Russie, ces pays ne se tournent vers l'intelligence artificielle pour faciliter les procédures de lancement nucléaire. Selon certaines informations, leurs missiles balistiques intercontinentaux sont en état d'alerte maximale, prêts à être lancés en quelques minutes.

Dans son message vidéo à l'ACA, Guterres a déclaré:

« L’humanité est au bord du précipice ; le risque d’utilisation d’une arme nucléaire a atteint des niveaux jamais vus depuis la guerre froide. Les États sont engagés dans une course aux armements qualitative. Des technologies comme l’intelligence artificielle multiplient le danger. »

Guterres a ajouté que « tous les pays doivent convenir que toute décision relative à l’utilisation de l’arme nucléaire doit être prise par des humains, et non par des machines ou des algorithmes »

En 2022, les États-Unis, le Royaume-Uni et la France ont publié une déclaration commune réaffirmant leur engagement à garantir le contrôle humain lors des lancements nucléaires. La Russie et la Chine n'ont pas encore pris d'engagement similaire, selon les médias spécialisés. La Fédération des scientifiques américains estime que le nombre d'armes nucléaires a diminué, passant de 70 300 en 1986 à 12 100 cette année.

Des scientifiques tirent la sonnette d'alarme concernant l'IA

L'avertissement de Guterres n'est pas nouveau. De nombreux scientifiques ont mis en garde contre les dangers de l'intelligence artificielle. Un rapport de la Rand Corporation indiquait que le développement de l'IA accroît le risque de guerre nucléaire. Ce rapport précisait que l'intégration de l'IA, de l'apprentissage automatique et de l'analyse des mégadonnées améliorera la capacité des forces armées à localiser, trac, cibler et détruire les forces de dissuasion nucléaire d'un adversaire.

À lire également : L’intelligence artificielle puissante menace l’humanité : pourquoi les experts insistent sur un moratoire mondial

D'autres se sont également impliqués dans le débat. Pour Bilawal Sidhu, ancien responsable produit chez Google, le débat sur l'IA peut être abordé comme une question nucléaire ou laissé ouvert. Il a fait valoir qu'une IA open source permettrait aux acteurs bienveillants de contrôler les acteurs malveillants, minimisant ainsi les risques.

Dans une interview à Newsweek, l'ancien secrétaire d'État américain Henry Kissinger a déclaré que l'IA avait des conséquences « aussi importantes » mais était « moins prévisible » que les armes nucléaires. Kissinger estime que les risques liés à l'IA peuvent être gérés grâce à la coopération et à la réglementation internationales.

Reportage Cryptopolitan par Jeffery Gogo