Le gouvernement britannique a été mis en garde quant à ses ambitions d'intégrer l'intelligence artificielle (IA) à la défense, notamment dans les systèmes d'armes autonomes (SAA). Un rapport de la Chambre des lords sur l'intelligence artificielle, publié par la Commission des systèmes d'armes, souligne la nécessité de prendre en compte des considérations éthiques et juridiques, de garantir la confiance du public et d'obtenir l'aval démocratique pour le développement et l'utilisation de l'IA, en particulier pour les systèmes d'armes autonomes.
L'intégration potentielle de l'IA dans la guerre via AWS est présentée comme une avancée majeure dans le domaine des technologies de défense. Cependant, la commission de la Chambre des Lords souligne l'importance d'une approche prudente et responsable pour tirer parti de ces avantages sans compromettre les principes éthiques et juridiques.
Recommandations clés
Le rapport de la commission de la Chambre des Lords présente plusieurs recommandations clés pour orienter l'approche du gouvernement en matière d'IA dans la guerre :
1. Leader en matière de réglementation internationale
Le gouvernement britannique est invité à jouer un rôle de premier plan dans le dialogue international concernant la réglementation des systèmes d'armes autonomes. Les résultats des discussions internationales pourraient aboutir soit à un traité juridiquement contraignant, soit à des mesures non contraignantes clarifiant l'application du droit international humanitaire. Par ailleurs, le Royaume-Uni devrait mener les efforts visant à interdire l'utilisation de l'intelligence artificielle dans le commandement, le contrôle et les communications nucléaires.
2. Établir une defiopérationnelle
Étonnamment, le gouvernement britannique ne dispose actuellement d'aucune defiopérationnelle des espaces aériens sans pilote (AWS). Le comité propose d'élaborer une defipérenne afin de faciliter le développement des politiques et la participation aux dialogues internationaux. Une deficlaire est essentielle pour une participation constructive aux discussions concernant les AWS.
3. Garantir le contrôle humain
Le comité insiste sur le maintien du contrôle humain à toutes les étapes du cycle de vie des systèmes AWS. Cela inclut le déploiement, afin de garantir le respect des principes éthiques et la conformité juridique, conformément au droit international humanitaire. Le rapport souligne l'engagement du Royaume-Uni à cet égard.
4. Refonte des processus d'approvisionnement
Les procédures d'acquisition du ministère de la Défense sont critiquées pour leur manque de transparence et leur lourdeur administrative. De plus, le ministère est pointé du doigt pour ses lacunes en matière de logiciels et de données, deux éléments pourtant essentiels au développement de l'IA. Le comité prévient que des changements radicaux pourraient s'avérer nécessaires et souligne l'urgence de remédier à ces problèmes.
Point de vue du président
Lord Lisvane, président du Comité sur l'intelligence artificielle dans les systèmes d'armes, a déclaré : « L'intelligence artificielle est omniprésente dans notre vie, et la défense n'y fait pas exception. Son potentiel de révolutionner les technologies de défense fait l'objet de débats et de controverses. Si l'IA peut offrir des avantages stratégiques et opérationnels considérables, notre rapport, intitulé « Agir avec prudence : l'intelligence artificielle dans les systèmes d'armes », souligne la nécessité d'une approche prudente de la part du gouvernement. »
Lord Lisvane a ajouté : « Nous saluons la reconnaissance par le gouvernement du rôle d’une IA responsable dans les futures capacités de défense. Toutefois, les principes éthiques et juridiques doivent être intégrés à chaque étape de l’IA au sein d’AWS, et des efforts doivent être déployés pour garantir la compréhension du public et l’approbation démocratique. La technologie doit renforcer nos capacités, mais non au détriment de nos principes moraux. »
Le rapport de la commission de la Chambre des Lords souligne le potentiel transformateur de l'IA dans le domaine de la défense, tout en exhortant le gouvernement britannique à agir avec prudence, responsabilité et transparence. Les recommandations insistent sur l'importance d'un leadership international, d'une clarté opérationnelle, d'un contrôle humain et d'une refonte du processus d'acquisition afin de garantir que l'IA soit mise au service de la sécurité nationale dans le respect de l'éthique et de la légalité.
À mesure que le paysage mondial évolue à l'ère de l'IA, l'approche britannique de l'IA dans la guerre influencera sans aucun doute les discussions et les réglementations internationales, façonnant l'avenir des systèmes d'armes autonomes dans le monde entier.
