Le pape appelle à un traité international pour réglementer l'intelligence artificielle

Le pape François a lancé un appel pressant à la conclusion d'un traité international visant à encadrer le développement et l'utilisation éthique de l'intelligence artificielle (IA). Dans son message annuel pour la Journée mondiale de la paix, il a souligné l'urgence d'aligner l'IA sur des valeurs humaines telles que la compassion, la miséricorde, la moralité et le pardon. Cet appel fait suite aux inquiétudes suscitées par les progrès rapides de l'IA et ses risques potentiels.

Un contrôle éthique est préconisé pour l'IA

Le message du pape François souligne l'importance d'un contrôle éthique sur le développement et le déploiement de l'IA. Il a exprimé son admiration pour le potentiel créatif de l'intelligence humaine que représente l'IA, tout en soulevant des préoccupations cruciales. Le message du pape a particulièrement résonné concernant l'utilisation de l'IA dans le secteur de l'armement, où il a mis en garde contre l'effet d'éloignement des systèmes d'armes télécommandés face aux horreurs de la guerre.

Il a souligné la nécessité d'un contrôle humain « adéquat, pertinent et cohérent » des systèmes d'armes létales autonomes (SALA), insistant sur le fait que la prise de décision morale et éthique inhérente au jugement humain ne saurait se réduire à une programmation algorithmique. François s'est fermement opposé à la promotion de la guerre par le biais des nouvelles technologies.

Les profondes implications de l'IA sur la société

Le pape a également mis en garde contre les profondes implications sociétales de l'automatisation par l'intelligence artificielle. Il s'est inquiété des systèmes automatisés qui catégorisent ou hiérarchisent les citoyens, avec des conséquences potentielles sur l'emploi, l'immigration et la justice pénale. Il a souligné que les algorithmes ne doivent pas se substituer aux valeurs humaines essentielles telles que la compassion, la miséricorde et le pardon, ni entraver la possibilité d'épanouissement personnel et de rédemption.

Le message de François s'inscrit dans le cadre de ses préoccupations plus générales en tant que pape, notamment la dénonciation des injustices sociales, la défense des migrants et l'aide aux personnes marginalisées au sein de la société.

Un effort mondial pour une IA éthique

Le message du pape n'a pas abordé les détails d'un traité contraignant, mais a souligné la nécessité de négociations internationales pour établir des lignes directrices éthiques pour l'IA. Il a affirmé que compter uniquement sur les entreprises technologiques pour s'autoréguler est insuffisant. Un accord mondial est donc indispensable pour promouvoir les meilleures pratiques et prévenir les conséquences néfastes.

Le pape François a évoqué l'dent des multinationales qui ont exploité les ressources de la Terre et appauvri les peuples autochtones, mettant en garde contre le risque de céder à l'égoïsme, à l'intérêt personnel, au profit et au pouvoir dans le développement et l'utilisation de l'IA.

Progrès mondiaux en matière de réglementation de l'IA

L'appel du pape à un traité contraignant fait suite aux récents développements en matière de réglementation de l'IA. Les négociateurs de l'Union européenne ont récemment obtenu une approbation provisoire pour les premières règles complètes au monde sur l'IA, qui devraient servir de référence aux gouvernements envisageant leurs propres réglementations. Ces règles abordent diverses questions éthiques liées à la technologie de l'IA.

Par ailleurs, ledent américain Joe Biden a présenté en octobre un décret visant également à aborder la réglementation et les questions éthiques liées à l'IA. Ces évolutions témoignent d'un consensus croissant sur l'importance de l'éthique et de la réglementation de l'IA à l'échelle mondiale.

Point de vue d'expert sur l'éthique de l'IA

Barbara Caputo, professeure au pôle d'intelligence artificielle de l'École polytechnique de Turin, a souligné la convergence des enjeux et defiéthiques entre la réglementation européenne et le décretdent de Joe Biden. Elle a insisté sur l'importance d'un cadre réglementaire commun pour la production d'IA, y voyant un pas important vers un développement éthique de cette technologie.

Alors que le débat sur la réglementation de l'IA s'intensifie à l'échelle mondiale, l'appel du pape François à un traité international confère une dimension morale et éthique à la discussion. La prise en compte éthique et le respect des valeurs humaines dans le développement de l'IA sont devenus des priorités essentielles pour les gouvernements, les organisations et les acteurs du secteur technologique.

Le message du Pape nous rappelle que si l'IA recèle d'immenses promesses, elle implique également une responsabilité considérable. Un consensus mondial sur des principes éthiques est indispensable pour appréhender les défis et les opportunités que l'IA offre à l'humanité. Face aux progrès technologiques constants, la nécessité d'une IA éthique demeure une préoccupation majeure qui transcende les frontières nationales.