Que se passe-t-il lorsque des algorithmes tueurs dépassent le droit international ?

L’utilisation inconsidérée des algorithmes d’intelligence artificielle peut avoir des conséquences néfastes pour l’humanité inimaginables. Malgré les progrès considérables réalisés par l’IA ces deux dernières années, aucune réglementation internationale n’est encore en place pour prévenir les effets néfastes de ces algorithmes potentiellement dangereux. 

De nombreux pays intègrent l'intelligence artificielle à leurs systèmes militaires pour la reconnaissance des cibles et l'augmentation de leur puissance de feu, mais son utilisation inconsidérée est dévastatrice. L'impact négatif de l'IA est également manifeste dans la perturbation des processus démocratiques par la manipulation de l'opinion publique au moyen de fausses allégations et de désinformation.

Des algorithmes meurtriers fauchent des vies innocentes

Nous avons récemment constaté des annonces d'intégration de l'IA dans les systèmes militaires de la part de nombreux pays, et un certain nombre d'tracmilitaires ont lancé leurs systèmes de ciblage et de tir améliorés par l'IA, allant des drones aux systèmes radar, en passant par les systèmes de surveillance pour la reconnaissance des cibles humaines. 

Le déploiement le plus irresponsable a été observé par Israël ciblant la population de Gaza à l'aide d'algorithmes de destruction massive. Ces algorithmes, souvent erronés ou utilisés avec une négligence criminelle, ont permis de tuer des dizaines, voire des centaines de civils innocents, une seule personne étant désignée comme cible principale. Imaginez le chaos engendré parmi la population civile de Gaza, des milliers de femmes et d'enfants tués. Un responsable a même déclaré que la machine avait agi de sang-froid. Vraiment ? Tuer des civils de sang-froid est la triste réalité de la cruauté dont peuvent faire preuve ces algorithmes.

Une enquête récente du magazine israélien +972 a révélé des faits alarmants concernant l'utilisation de l'intelligence artificielle par les forces israéliennes lors de frappes aériennes. Le système Lavender a servi à générer des listes de milliers de militants présumés, tandis qu'un autre système, Gospel, a été utilisé pour sélectionner les bâtiments et les infrastructures cibles. La stratégie employée consistait à cibler les membres du Hamas, même à leur domicile situé dans des quartiers résidentiels, causant ainsi la mort de centaines de civils. 

Le rapport comprend des entretiens avec six sources du renseignement israélien dont les noms ont été tenus secrets pour des raisons de sécurité. Ces sources ont affirmé que Lavender, ainsi que d'autres systèmes d'IA, étaient utilisés pour la sélection des cibles. Elles ont également évoqué la clémence de la réglementation encadrant l'utilisation de ces systèmes et ont donné leur estimation du nombre de civils tués ou laissés pour compte, victimes collatérales, chaque responsable du Hamas, de haut rang ou de rang inférieur, étant chiffré entre deux et trois chiffres. 

Mais les chiffres réels semblent largement dépasser ces estimations, qui étaient déjà les plus élevées comparées aux conflits armés modernes dans le monde. Le nombre d'enfants tués durant les trois premiers mois de la guerre a également dépassé le nombre d'enfants tués dans les guerres du monde entier. C'est déchirant d'y penser.

La réglementation mondiale présente encore des lacunes

Malgré les ravages causés par des algorithmes d'intelligence artificielle meurtriers lors de conflits armés, les dirigeants mondiaux semblent ne pas déployer suffisamment d'efforts pour endiguer cette menace. Il n'existe aucun cadre réglementaire international encadrant l'utilisation de l'IA dans la guerre, alors même que tuer des populations et endommager des infrastructures essentielles pour les priver de leurs besoins fondamentaux constitue un crime de guerre manifeste. 

Nous assistons à des déclarations de façade de la part des dirigeants mondiaux, suivies d'une nouvelle livraison d'armes par les États-Unis, qui pourraient être utilisées conjointement avec les algorithmes tueurs basés sur l'IA. La seule action en justice intentée a été celle de l'Afrique du Sud devant la Cour internationale de Justice pour crimes de guerre contre Israël.

Partout dans le monde, les forces armées cherchent à tirer parti de l'intelligence artificielle, et de nombreux pays tentent d'obtenir un avantage militaire grâce au déploiement de ces systèmes. Les tensions géopolitiques alimentent également ces progrès, car des pays comme les États-Unis et la Chine s'efforcent de développer des systèmes d'IA pour la sélection des cibles et la prise de décision afin d'accélérer les processus. 

Jusqu'à présent, on vante les mérites d'une meilleure précision et de moins de dommages civils grâce au déploiement de l'intelligence artificielle, mais les réalités sur le terrain contredisent ces affirmations et les dangers des algorithmes tueurs dépassent de loin les promesses de précision, ce qui exige des efforts importants pour réglementer l'IA au niveau mondial.

Les articles du magazine +972 sont disponibles ici.