La régulation de la course aux armements de l'IA est-elle la réponse aux menaces croissantes pour la sécurité mondiale ?

L'évolution rapide de l'intelligence artificielle (IA) a apporté des transformations remarquables à divers aspects de nos vies, de l'éducation et du travail à l'exploration et à la communication. Cependant, une appréhension grandissante existe quant à l'application de l'IA dans la guerre, une préoccupation qui rivalise même avec les menaces posées par le changement climatique. La progression incontrôlée de l'IA dans les technologies militaires pourrait avoir des conséquences catastrophiques pour l'humanité, comme en témoigne la course aux armements de l'IA en cours.

L'IA a déjà marqué son empreinte dans les scénarios de combat. Notamment, en mars 2020, un drone turc a utilisé la technologie de reconnaissance faciale pour cibler des combattants ennemis en Libye. Pourtant, malgré les avancées indéniables, le manque de réglementation efficace pour ces armes de pointe soulève des questions critiques quant à leur conformité au droit international humanitaire. Les armes autonomes peuvent-elles différencier de manière fiable les civils des combattants ? Minimiseront-elles les dommages aux non-combattants ? Le défi d'assurer que ces armes fassent preuve d'un jugement sain dans des situations chargées d'émotions reste une préoccupation majeure.

Une autre inquiétude réside dans la difficulté d'attribuer la responsabilité de crimes de guerre potentiels en l'absence d'intervention humaine. Permettre aux machines de prendre des décisions de vie ou de mort, reléguant les humains au rang de simples points de données, risque de provoquer une déshumanisation numérique. De plus, la prolifération de la technologie des armes à IA abaisse les barrières pour les pays qui recourent au conflit armé en réduisant les pertes humaines, une tendance préoccupante qui pourrait déclencher une cascade de conflits imprévus.

Une possibilité catastrophique à l'ombre des acteurs non étatiques

Au-delà du développement étatique des armes à IA se profile la menace imminente d'acteurs non étatiques accédant à ces armes et les déployant. Si les armes à IA deviennent facilement accessibles et rentables, des groupes en dehors du domaine de la guerre traditionnelle pourraient exploiter leur potentiel destructeur. La difficulté de tracer l'origine de telles armes pourrait permettre aux acteurs non étatiques de semer la chaos tout en maintenant une déni plausible, exacerbant davantage la crise de la sécurité mondiale.

La course aux armements silencieuse de l'IA devient un défi mondial

Les implications des armes à IA n'ont pas passé inaperçues. Dans une déclaration révélatrice, Vladimir Poutine a souligné que la suprématie dans le domaine de l'IA équivaut à la domination mondiale, soulignant la nature concurrentielle de la course aux armements de l'IA en cours. Un exemple frappant de cette tendance est la demande de budget stupéfiante de 145 milliards de dollars du Pentagone pour renforcer les capacités technologiques et forger des alliances avec les innovateurs du secteur privé. La création du Bureau du capital stratégique (OSC) pour inciter à l'investissement privé dans les technologies militaires reflète l'accent stratégique mis sur « l'IA de confiance et l'autonomie ».

Le rôle de la Chine et les considérations éthiques

La Chine, acteur majeur de la course à l'IA, fait écho à la poursuite par les États-Unis de la domination de l'IA à travers sa politique de Fusion Militaire-Civile (MCF). Avec des parallèles avec le complexe militaro-industriel américain, la stratégie MCF de la Chine vise à atteindre la leadership dans la technologie de l'IA. La convergence de ces stratégies signifie la gravité des préoccupations éthiques et juridiques entourant l'IA dans la guerre. Cependant, le paysage mondial manque d'une autorité unique pour établir des normes complètes en matière d'IA, rendant l'urgence d'un consensus international sur les normes minimales d'utilisation de l'IA dans la guerre primordiale.

Le potentiel déchaîné des LLM devient une perspective troublante

Le déploiement de grands modèles de langage (LLM) dans la guerre de l'information soulève des perspectives inquiétantes. Bien que des modèles comme ChatGPT aient été critiqués pour avoir généré de fausses informations, des LLM plus avancés pourraient être exploités par des nations pour propager des récits trompeurs contre les adversaires. Un LLM de qualité militaire pourrait alimenter les fausses nouvelles, créer de faux profonds (deepfakes), intensifier les attaques de hameçonnage (phishing) et même déstabiliser l'écosystème informationnel d'une nation. Le fait qu'un responsable du département de la Défense des États-Unis ait qualifié ChatGPT de « sujet de conversation » souligne la reconnaissance croissante de la puissance de cette technologie.

L'appel à la réglementation et un paysage mondial complexe

Les entreprises américaines d'IA, y compris ChatGPT, ont exhorté le Congrès à réglementer la technologie de l'IA, reconnaissant l'impératif de lignes directrices éthiques. Cependant, discerner les frontières entre l'influence de l'État et du secteur privé présente un défi compliqué. Israël, par exemple, a vu émerger des entreprises technologiques à double usage issues d'anciens responsables militaires. Bien qu'elles utilisent des outils d'IA pour le ciblage militaire, ces technologies restent largement non réglementées, soulevant des questions sur les systèmes de gouvernance efficaces pour l'IA.

La montre qui tourne et la réponse mondiale

Contrairement aux progrès incrementaux dans la réglementation des armes nucléaires, la course aux armements de l'IA se caractérise par sa rapidité, alimentée par une innovation incessante. La fenêtre étroite pour établir une réglementation efficace de l'IA se referme rapidement, suscitant une question critique : La communauté internationale agira-t-elle assez vite pour éviter les dangers potentiels posés par la course aux armements de l'IA incontrôlée ? Alors que les pays s'affrontent pour exploiter le pouvoir de l'IA, l'impératif d'efforts internationaux collaboratifs pour définir des normes éthiques et contrôler la prolifération des armes à IA n'a jamais été aussi urgent.