Christopher Olah d’Anthropic rejoint le pape Léon XIV pour un événement majeur de l’IA au Vatican

Le cofondateur d’Anthropic, Christopher Olah, rejoindra le pape Léon XIV au Vatican le 25 mai pour le lancement de la première encyclique du pape, Magnifica Humanitas, afin de déterminer comment préserver la dignité humaine à l’ère de l’IA.

Les événements normaux de présentation des documents du Vatican se déroulent généralement dans la salle de presse du Vatican, avec quelques fonctionnaires répondant aux questions des journalistes.

Mais cet événement se déroulera dans la grande salle de l’auditorium du Vatican. Selon l’AP, le pape Léon XIV y assistera, prendra la parole et donnera la bénédiction finale. Le cardinal Pietro Parolin, secrétaire d’État du Vatican, clôturera la présentation formelle, puis le cardinal Víctor Manuel Fernández, qui dirige la doctrine, et le cardinal Michael Czerny, qui s’occupe des questions de développement, présenteront le document.

Olah d’Anthropic prendra la parole en tant qu’invité laïc, avec les théologiens Anna Rowlands et Leocadie Lushombo également inscrits pour l’événement.

L’événement du Vatican est centré sur l’IA, la guerre et la dignité humaine

Anthropic se présente comme une entreprise d’IA construite autour de la sécurité et du contrôle des risques, et a déjà été en conflit avec l’administration Trump en refusant que sa technologie soit utilisée pour des crimes de guerre et la surveillance des civils.

Pendant ce temps, depuis son élection, le pape Léon XIV a mis en garde contre l’IA dans la guerre et a appelé à un contrôle plus strict de l’utilisation de la technologie. Il est également très impopulaire auprès de Donald Trump, qui a déclaré au monde entier « Je n’aime pas le pape Léon » au moins quatre fois différentes.

Léon a signé Magnifica Humanitas le 15 mai, montrant clairement que le Vatican traite l’IA comme une crise sociale à part entière, peut-être même un peu apocalyptique.

Le Vatican était déjà entré dans ce débat avant que Léon ne devienne pape. En 2020, il a réuni des entreprises technologiques autour de l’Appel de Rome pour l’éthique de l’IA, un engagement fondé sur l’inclusivité, la responsabilité, l’impartialité et la confidentialité. Microsoft (MSFT), IBM (IBM) et Cisco (CSCO) figuraient parmi les entreprises qui ont signé.

Le pape François a également pressé les gouvernements de réglementer l’IA avant sa mort. François a appelé à un traité international et a mis en garde contre le fait que la technologie sans compassion, miséricorde, moralité et pardon ne pouvait être laissée aux seuls développeurs.

Francis a porté le même message au Groupe des sept en 2024, où il s’est adressé aux dirigeants sur les risques de l’IA et ses utilisations possibles. Il a déclaré que les politiciens doivent s’assurer que l’IA reste centrée sur l’humain. Il a également déclaré que les décisions concernant les armes, y compris les outils moins létaux, doivent rester entre les mains des humains. Francis a appelé à une interdiction des armes autonomes létales, souvent appelées « robots tueurs ».

Anthropic fait face à la pression de Washington alors que son introduction en bourse approche

Anthropic a été créée en 2021 lorsque Dario Amodei et une équipe de scientifiques ont quitté OpenAI en raison de désaccords concernant la direction dans laquelle l’entreprise devrait évoluer en matière de sécurité de l’IA. Avant cela, Dario Amodei travaillait chez OpenAI jusqu’à ce que le désaccord avec Sam Altman survienne.

Par la suite, Anthropic a lancé Claude et est devenu l’un des principaux concurrents d’OpenAI. Ils travaillent sur l’intelligence artificielle générale (AGI), qui est un type d’IA capable de surpasser les humains sur plusieurs tâches. C’est ce qui inquiète les régulateurs, car l’AGI ne se limite pas à la création de meilleurs chatbots. L’influence potentielle de tels systèmes d’IA dans la finance, le militaire, la science et la politique ne peut être négligée.

Cette année, Anthropic, qui est toujours une entreprise privée, a signalé que sa valorisation avait augmenté à environ 380 milliards de dollars. Cela signifie que Claude appartient à la même catégorie de concurrents qu’OpenAI et l’entreprise XAI (Grok) d’Elon Musk. SpaceX, appartenant à Elon Musk, a fusionné avec xAI. Par conséquent, SpaceX et xAI restent des entreprises privées et n’ont pas de codes boursiers cotés en bourse.

De plus, Anthropic a soulevé des préoccupations concernant la course à l’IA entre les États-Unis et la Chine. Récemment, ils ont déclaré que les États-Unis et leurs alliés devraient continuer de diriver le développement technologique en matière d’IA et de créer des réglementations concernant la diffusion de l’IA. Ils ont également mis en garde contre l’utilisation de l’IA avancée par les régimes autoritaires pour la surveillance, la répression et le contrôle.