Malgré l'immaturité de l'IA, une course s'engage pour la déployer dans le combat
- L'innovation progresse à une vitesse fulgurante, tandis que la réglementation prend tout son temps.
- La technologie n'est pas encore mature, mais les armées du monde entier hâtent son déploiement sur des cibles humaines.
- Il est urgent de relancer les négociations stagnantes sur la régulation de l'IA à des fins militaires.
Récemment, les titres des journaux se sont concentrés sur les avancées de l'intelligence artificielle. Mais l'IA existe depuis des décennies, et elle continuera d'être une grande partie de la façon dont la guerre sera menée à l'avenir pour une gamme d'applications militaires et de défense.
Ce ne sont pas seulement les militaires ; vous lisez peut-être ce texte sur un appareil qui repose déjà fortement sur l'intelligence artificielle ; ainsi, vous avez probablement déjà utilisé l'IA d'une manière ou d'une autre, même avant le récent battage médiatique.
L'IA a très probablement été employée dans toute situation où vous avez payé quelque chose en ligne, par exemple pour de la nourriture ou du divertissement, utilisé votre visage ou votre empreinte digitale pour déverrouiller votre téléphone, engagé des activités sur les réseaux sociaux, ou planifié des voyages via une application téléphonique.
Nous sommes habitués à l'IA de diverses manières, l'intégrant – souvent sans nous en rendre compte – dans notre vie quotidienne.
L'IA militaire existe depuis la Seconde Guerre mondiale
Bien que les armes aient pu prendre certaines décisions depuis la Seconde Guerre mondiale, l'intelligence artificielle leur permet désormais d'en prendre beaucoup plus et finira par les rendre monnaie courante.
Et si quelqu'un était attaqué et que son identité était déterminée par un tel logiciel de reconnaissance faciale ? Au lieu d'identifier le meilleur restaurant pour manger, et si un logiciel similaire guidait des avions pour lancer une frappe aérienne sur une cible ?
À lire également : L'adoption des systèmes militaires d'IA prédit-elle un tournant sinistre dans la guerre ?
Cela ressemble à un très gros problème jusqu'à présent. La question est : les systèmes d'IA pourraient-ils vraiment prendre des décisions de vie ou de mort de manière autonome ? Leur précision n'est pas parfaite et varie selon la situation, et nous savons qu'ils ne sont pas toujours corrects.
Dans les zones de conflit réelles, l'IA choisit déjà quelles personnes cibler, comme à Gaza et en Ukraine. On dit qu'Israël a utilisé un système d'intelligence artificielle (IA) nommé Lavender, qui a une applicabilité minimale de prise de décision humaine, pour sélectionner des cibles possibles, entraînant un nombre important de victimes civiles, selon une recherche publiée dans le média israélien +972 Magazine.
Les machines peuvent le faire froidement
Récemment, l'Autriche a organisé une conférence pour aborder la réglementation des armes IA afin de remédier aux effets dévastateurs qu'elles peuvent avoir. L'IA combat déjà et cible des humains et leurs établissements. Le ministre autrichien des Affaires étrangères, Alexander Schallenberg, a déclaré :
« Nous ne pouvons pas laisser passer ce moment sans agir. Il est temps de convenir de règles et de normes internationales pour garantir le contrôle humain. »
Source : Reuters.
La technologie que de nombreuses armées déploient dans les zones de guerre est encore loin d'être mature et n'est pas encore utilisée pour décider qui cibler. La technologie que nous appelons intelligente n'est pas encore aussi capable que le cerveau d'un chat ; même les experts disent que si nous atteignons le niveau d'intelligence d'une souris dans les années à venir, ce sera une grande réussite.
Mais le niveau de dépendance à son égard est si élevé qu'il est déployé brutalement d'une manière qui déshumanise à la fois la cible et celui qui a la puissance de feu. Cela soulève de sérieuses questions sur les préoccupations morales, humanitaires et éthiques.
En tant qu'humains, nous avons des griefs, mais pour prévenir un soldat en deuil, les armées peuvent désormais utiliser cette nouvelle arme, comme +972 Magazine mentionne une source secrète du renseignement qui a déclaré :
« La machine l'a fait froidement. Et cela l'a rendu plus facile. »
Source : +972 Magazine.
Est-il vraiment important que les gens soient impliqués dans le processus de sélection ? Lorsqu'on lui a demandé par un autre utilisateur de Lavender, il a déclaré qu'à ce moment-là, il consacrerait 20 secondes à chaque cible et en compléterait des dizaines chaque jour. En dehors du fait qu'il s'agissait d'un sceau officiel d'approbation, il n'avait aucune valeur supplémentaire en tant qu'humain. C'était assez gain de temps.
Il est facile de comprendre combien de pouvoir de décision nous, humains, cédons volontairement aux machines.
Les accords internationaux sont encore loin
Les États-Unis ont initié des efforts réglementaires par la mise en œuvre de la Déclaration politique sur l'utilisation responsable de l'intelligence artificielle et de l'autonomie dans le domaine militaire. La proclamation inclut également l'Australie. Un accord international est cependant encore très loin.
La déclaration mentionne que garantir des sauvegardes est essentiel, comme elle le stipule :
« Les États devraient mettre en œuvre des sauvegardes appropriées pour atténuer les risques de défaillances des capacités d'IA militaires, telles que la capacité de détecter et d'éviter les conséquences involontaires et la capacité de répondre, par exemple en se désengageant ou en désactivant les systèmes déployés, lorsque de tels systèmes font preuve d'un comportement involontaire. »
Source : Département d'État des États-Unis.
Le document souligne également que l'utilisation de l'IA dans le domaine militaire « peut et devrait être » éthique, ainsi que renforcer la sécurité internationale. Mais les réalités du terrain montrent un tableau complètement différent, comme discuté ci-dessus.
Trouver et localiser le personnel militaire ennemi est une application de tels systèmes ; avec l'innovation explosive en cours, nous ne savons pas quelles autres utilisations militaires complexes pourraient émerger.
À lire également : Kaspersky nie les allégations d'aide à l'armée russe
Le débat pour exclure l'IA de la guerre ne semble pas être une option à ce stade, mais les législateurs du monde entier et les gouvernements impliqués dans les conflits doivent adhérer au manque de capacités de l'IA et au désastre potentiel qu'elle pourrait causer aux humains.
Actuellement, l'élaboration des politiques ne parvient pas à suivre le rythme de l'innovation, et cela doit être abordé dans une certaine mesure, sinon complètement, car nous ne pouvons pas simplement rester assis à dire : wow ! L'IA a fait 1 000 morts de plus. Que présentera l'IA ? Nous ne le savons pas encore, mais ce que les décideurs devraient faire n'est pas une question réservée aux seuls génies.
Article de Cryptopolitan par Aamir Sheikh
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Aamir Sheikh
Aamir est journaliste technologique avec près de six ans d'expérience dans les secteurs de la cryptomonnaie et de la technologie. Il est diplômé de l'université MAJ avec un MBA en finance et marketing. Il travaille désormais pour Cryptopolitan, où il rend compte des dernières évolutions des marchés de la cryptomonnaie et des prévisions de prix.
