Christopher Olah d'Anthropic rejoindra le pape Léon XIV pour un événement majeur du Vatican sur l'IA

Christopher Olah, cofondateur d'Anthropic, rejoindra le pape Léon XIV au Vatican le 25 mai pour le lancement de la première encyclique du pape, Magnifica Humanitas, qui vise à déterminer comment préserver la dignité humaine à l'ère de l'IA.

Les événements habituels liés aux documents du Vatican se tiennent généralement dans la salle de presse du Vatican, où quelques responsables répondent aux questions des journalistes.

Mais cette fois-ci, la cérémonie aura lieu dans le grand auditorium du Vatican. Selon l'AP, le pape Léon XIV y assistera, prendra la parole et donnera la bénédiction finale. Le cardinal Pietro Parolin, secrétaire d'État du Vatican, clôturera la présentation officielle, puis le cardinal Víctor Manuel Fernández, préfet de la Congrégation pour la Doctrine de la Foi, et le cardinal Michael Czerny, préfet de la Congrégation pour le Développement international, présenteront le document.

Olah, de la revue Anthropic, interviendra en tant qu'invité laïc, aux côtés des théologiens Anna Rowlands et Leocadie Lushombo, également inscrits à l'événement.

L'événement du Vatican est axé sur l'IA, la guerre et la dignité humaine

Anthropic se présente comme une entreprise d'IA axée sur la sécurité et le contrôle des risques, et s'est déjà engagée dans une lutte acharnée contre l'administration Trump, refusant que sa technologie soit utilisée pour des crimes de guerre et la surveillance civile.

Depuis son élection, le pape Léon XIV met en garde contre l'utilisation de l'intelligence artificielle dans les conflits armés et appelle à un contrôletronde cette technologie. Il est par ailleurs ouvertement impopulaire auprès de Donald Trump, qui a déclaré à au moins quatre reprises : « Je n'aime pas le pape Léon ».

Leo a signé Magnifica Humanitas le 15 mai, indiquant clairement que le Vatican traite l'IA comme une véritable crise sociale, voire un peu apocalyptique.

Le Vatican s'était déjà impliqué dans ce débat avant même l'accession de Léon XIII au trône pontifical. En 2020, il a rassemblé des entreprises technologiques autour de l'Appel de Rome pour une éthique de l'IA, un engagement fondé sur l'inclusion, la responsabilité, l'impartialité et le respect de la vie privée. Microsoft (MSFT), IBM (IBM) et Cisco (CSCO) figuraient parmi les signataires.

Avant sa mort, le pape François a exhorté les gouvernements à réglementer l'intelligence artificielle. Il a plaidé pour un traité international et a averti que l'on ne pouvait laisser aux seuls développeurs une technologie dépourvue de compassion, de miséricorde, de moralité et de pardon.

François a réitéré ce message devant le G7 en 2024, s'adressant aux dirigeants sur les risques et les usages potentiels de l'IA. Il a insisté sur le fait que les responsables politiques doivent veiller à ce que l'IA reste centrée sur l'humain. Il a également affirmé que les décisions concernant les armes, y compris les armes non létales, doivent rester du ressort des hommes. François a plaidé pour l'interdiction des armes autonomes létales, souvent qualifiées de « robots tueurs ».

Anthropic subit des pressions de Washington à l'approche de son introduction en bourse

Anthropic a été fondée en 2021 lorsque Dario Amodei et une équipe de scientifiques ont quitté OpenAI suite à des désaccords concernant la stratégie de l'entreprise en matière de sécurité de l'IA. Auparavant, Dario Amodei travaillait chez OpenAI jusqu'à son désaccord avec Sam Altman.

Par la suite, Anthropic a lancé Claude et est devenu l'un des principaux concurrents d'OpenAI. L'entreprise travaille sur l'intelligence artificielle générale (IAG), un type d'IA capable de surpasser les humains dans de nombreuses tâches. C'est ce qui inquiète les autorités de régulation, car l'IAG ne se limite pas à la simple création de chatbots plus performants. L'influence potentielle de tels systèmes d'IA dans la finance, la défense, la science et la politique ne saurait être négligée.

Cette année, Anthropic, qui demeure une société privée, a annoncé une valorisation d'environ 380 milliards de dollars. Claude se situe ainsi dans la même catégorie de concurrents qu'OpenAI et XAI (Grok), la société d'Elon Musk. SpaceX, également propriété d'Elon Musk, a fusionné avec XAI. Par conséquent, SpaceX et XAI restent des sociétés privées et ne sont pas cotées en bourse.

Par ailleurs, Anthropic a exprimé des inquiétudes quant à la course à l'IA entre les États-Unis et la Chine. Récemment, l'organisation a déclaré que les États-Unis et leurs alliés devraient conserver leur leadership dans le développement de cette technologie et mettre en place une réglementation encadrant sa diffusion. Elle a également mis en garde contre l'utilisation d'IA avancées par des régimes autoritaires à des fins de surveillance, de répression et de contrôle.