Christopher Olah, da Anthropic, se juntará ao Papa Leão XIV em grande evento da IA no Vaticano

O co-fundador da Anthropic, Christopher Olah, se juntará ao Papa Leão XIV no Vaticano em 25 de maio para o lançamento da primeira encíclica do papa, Magnifica Humanitas, para descobrir como manter a dignidade humana na era da IA.

Eventos normais de documentos do Vaticano geralmente são realizados na sala de imprensa do Vaticano, com alguns funcionários respondendo a perguntas dos repórteres.

Mas desta vez será no grande auditório do Vaticano. Segundo a AP, o Papa Leão XIV estará presente, falará e dará a bênção final. O Cardeal Pietro Parolin, secretário de Estado do Vaticano, encerrará a apresentação formal, seguido pelo Cardeal Víctor Manuel Fernández, que lidera a doutrina, e pelo Cardeal Michael Czerny, que lidera as questões de desenvolvimento, que apresentarão o documento.

Olah, da Anthropic, falará como convidado leigo, com os teólogos Anna Rowlands e Leocadie Lushombo também listados para o evento.

O evento do Vaticano centra-se na IA, guerra e dignidade humana

A Anthropic se apresenta como uma empresa de IA construída em torno de segurança e controle de riscos, e já foi famosa por estar em conflito com a administração Trump por se recusar a ter sua tecnologia usada para crimes de guerra e vigilância civil.

Enquanto isso, desde que foi escolhido, o Papa Leão XIV tem alertado sobre a IA na guerra e pedido monitoramento mais rigoroso do uso da tecnologia. Ele também é muito publicamente odiado por Donald Trump, que disse ao mundo, “Não gosto do Papa Leão”, pelo menos quatro vezes diferentes.

Leão assinou a Magnifica Humanitas em 15 de maio, deixando claro que o Vaticano está tratando a IA como uma crise social completa, talvez até um pouco apocalíptica.

O Vaticano já havia entrado nesse debate antes de Leão se tornar papa. Em 2020, reuniu empresas de tecnologia em torno da Chamada de Roma para a Ética da IA, um compromisso baseado em inclusão, responsabilidade, imparcialidade e privacidade. Microsoft (MSFT), IBM (IBM) e Cisco (CSCO) estavam entre as empresas que assinaram.

O Papa Francisco também pressionou os governos a regulamentar a IA antes de sua morte. Francisco pediu um tratado internacional e alertou que a tecnologia sem compaixão, misericórdia, moralidade e perdão não poderia simplesmente ser deixada aos desenvolvedores.

Francis levou a mesma mensagem ao Grupo dos Sete em 2024, onde se dirigiu aos líderes sobre os riscos da IA e seus possíveis usos. Ele disse que os políticos devem garantir que a IA permaneça centrada no ser humano. Ele também afirmou que as decisões sobre armas, incluindo ferramentas menos letais, devem permanecer com as pessoas. Francis pediu uma proibição de armas autônomas letais, frequentemente chamadas de “robôs assassinos”.

A Anthropic enfrenta pressão em Washington à medida que seu IPO se aproxima

A Anthropic foi estabelecida em 2021 quando Dario Amodei e uma equipe de cientistas deixaram a OpenAI devido a desacordos sobre a direção em que a empresa deveria seguir em relação à segurança da IA. Antes disso, Dario Amodei trabalhava na OpenAI até que surgiu o desacordo com Sam Altman.

Depois disso, a Anthropic lançou o Claude e tornou-se um dos principais concorrentes da OpenAI. Eles estão trabalhando em inteligência artificial geral (AGI), que é um tipo de IA que pode desempenhar melhor que os humanos em várias tarefas. Isso é o que preocupa os reguladores, pois a AGI não se limita a criar chatbots melhores. A possível influência de tais sistemas de IA em finanças, militares, ciência e política não pode ser negligenciada.

Este ano, a Anthropic, que ainda é uma empresa privada, relatou que sua avaliação aumentou para aproximadamente $380 bilhões. Isso significa que o Claude pertence à mesma categoria de concorrentes que a OpenAI e a empresa de Elon Musk, XAI (Grok). A SpaceX, de propriedade de Elon Musk, se fundiu com a xAI. Portanto, a SpaceX e a xAI permanecem empresas privadas e não possuem tickers de ações negociadas publicamente.

Além disso, a Anthropic levantou preocupações sobre a corrida da IA entre EUA e China. Recentemente, afirmaram que os EUA e seus aliados devem manter a liderança no desenvolvimento de tecnologia de IA e criar regulamentações sobre a disseminação da IA. Eles também alertaram contra o uso de IA avançada por regimes autoritários para vigilância, repressão e controle.