Le pape François s'élève contre les aspects obscurs de l'IA  

Le pape François a appelé à une action internationale pour orienter la technologie de l'IA vers de bonnes fins et empêcher que son utilisation ne cause des dommages et des conflits.

« J’exhorte la communauté internationale des nations à travailler ensemble afin d’adopter un traité international contraignant qui réglemente le développement et l’utilisation de l’intelligence artificielle sous ses nombreuses formes », a déclaré le pape dans son message pour la Journée mondiale de la paix. 

Le pape François s'exprime contre les « systèmes d'armes autonomes létaux ».

Dans sa déclaration, le pape a particulièrement ciblé les « systèmes d'armes autonomes létaux ». Il a souligné que de tels systèmes, y compris l'armement de l'intelligence artificielle, pourraient engendrer de nouvelles possibilités de violations éthiques, car ils ne peuvent pas prendre de décisions éthiques comme le ferait un être humain. 

« Les systèmes d’armes autonomes ne peuvent en aucun cas être considérés comme des sujets moralement responsables », a écrit le pape François. « La capacité humaine unique de jugement moral et de prise de décision éthique dépasse le simple ensemble complexe d’algorithmes, et cette capacité ne saurait se réduire à la programmation d’une machine qui, aussi “intelligente” soit-elle, reste une machine. »

Le message encourageait également le recours à l'intelligence artificielle pour promouvoir le développement humain intégral. Selon le pape, une telle démarche permettrait d'introduire des innovations majeures dans différents secteurs comme l'agriculture, l'éducation et la culture. 

L'IA au service de la paix

« J’espère que cette réflexion encouragera les efforts visant à garantir que les progrès réalisés dans le développement de formes d’intelligence artificielle serviront en fin de compte la cause de la fraternité et de la paix entre les hommes », ajoutait le message. 

Il convient de noter que ce n'est pas la première fois que le pape s'exprime sur l'intelligence artificielle. En octobre, le pape François avait déjà insisté sur la nécessité d'un encadrement réglementaire de cette technologie. Il l'avait alors classée parmi les nouvelles technologies « dotées de potentialités disruptives et d'effets ambivalents ».

Le pape a mis en garde contre les biais des algorithmes d'IA, appelant à des garanties que « une logique de violence et de discrimination ne s'enracine pas dans la production et l'utilisation de tels dispositifs, au détriment des plus fragiles et des plus exclus ».