Christopher Olah de Anthropic se unirá al Papa León XIV para un importante evento sobre IA en el Vaticano

El cofundador de Anthropic, Christopher Olah, se unirá al Papa León XIV en el Vaticano el 25 de mayo para el lanzamiento de la primera encíclica del papa, Magnifica Humanitas, para determinar cómo retener la dignidad humana en la era de la IA.

Los eventos habituales de presentación de documentos del Vaticano suelen celebrarse en la sala de prensa del Vaticano, con unos pocos funcionarios respondiendo preguntas de los reporteros.

Pero esta vez el evento se trasladará al auditorio principal del Vaticano. Según la AP, el Papa León XIV asistirá, hablará y dará la bendición final. El cardenal Pietro Parolin, secretario de Estado del Vaticano, cerrará la presentación formal, luego el cardenal Víctor Manuel Fernández, que dirige la doctrina, y el cardenal Michael Czerny, que se encarga de los temas de desarrollo, presentarán el documento.

Olah de Anthropic hablará como invitado laico, y también están listados para el evento los teólogos Anna Rowlands y Leocadie Lushombo.

El evento del Vaticano se centra en la IA, la guerra y la dignidad humana

Anthropic se presenta como una empresa de IA construida en torno a la seguridad y el control de riesgos, y ha sido famosa por estar luchando contra la administración de Trump por negarse a que su tecnología se utilice para crímenes de guerra y vigilancia civil.

Mientras tanto, desde que fue elegido, el Papa León XIV ha advertido sobre la IA en la guerra y ha pedido una supervisión más estricta del uso de la tecnología. También es muy públicamente despreciado por Donald Trump, quien le ha dicho al mundo, "No me gusta el Papa León", al menos cuatro veces diferentes.

Leo firmó Magnifica Humanitas el 15 de mayo, dejando claro que el Vaticano trata la IA como una crisis social completa, quizás incluso un poco apocalíptica.

El Vaticano ya había entrado en este debate antes de que Leo se convirtiera en papa. En 2020, reunió a empresas tecnológicas en torno a la Llamada de Roma para la Ética de la IA, un compromiso basado en la inclusividad, la responsabilidad, la imparcialidad y la privacidad. Microsoft (MSFT), IBM (IBM) y Cisco (CSCO) estaban entre las empresas que firmaron.

El Papa Francisco también presionó a los gobiernos para regular la IA antes de su muerte. Francisco pidió un tratado internacional y advirtió que la tecnología sin compasión, misericordia, moralidad y perdón no podía simplemente dejarse en manos de los desarrolladores.

Francis llevó el mismo mensaje al Grupo de los Siete en 2024, donde se dirigió a los líderes sobre los riesgos de la IA y sus posibles usos. Dijo que los políticos deben asegurarse de que la IA siga centrada en los humanos. También afirmó que las decisiones sobre armas, incluidas las herramientas menos letales, deben permanecer en manos de las personas. Francis pidió una prohibición de las armas autónomas letales, a menudo llamadas "robots asesinos".

Anthropic enfrenta presión en Washington a medida que se acerca su oferta pública inicial

Anthropic se estableció en 2021 cuando Dario Amodei y un equipo de científicos dejaron OpenAI debido a desacuerdos sobre la dirección en la que debería moverse la empresa en lo que respecta a la seguridad de la IA. Antes de eso, Dario Amodei solía trabajar en OpenAI hasta que surgió el desacuerdo con Sam Altman.

Después, Anthropic lanzó Claude y se convirtió en uno de los principales competidores de OpenAI. Están trabajando en inteligencia artificial general (AGI), que es un tipo de IA que puede desempeñarse mejor que los humanos en múltiples tareas. Esto es lo que preocupa a los reguladores porque la AGI no se limita solo a construir mejores chatbots. La posible influencia de estos sistemas de IA en finanzas, militares, ciencia y política no puede pasarse por alto.

Este año, Anthropic, que sigue siendo una empresa privada, informó de que su valoración aumentó a aproximadamente 380.000 millones de dólares. Esto significa que Claude pertenece a la misma categoría de competidores que OpenAI y la empresa de Elon Musk, XAI (Grok). SpaceX, propiedad de Elon Musk, se fusionó con xAI. Por lo tanto, SpaceX y xAI siguen siendo empresas privadas y no tienen códigos de cotización en bolsa.

Además, Anthropic planteó preocupaciones sobre la carrera de IA entre EE. UU. y China. Recientemente, afirmaron que EE. UU. y sus aliados deben seguir liderando el desarrollo de tecnología de IA y crear regulaciones sobre la difusión de la IA. También advirtieron contra el uso de IA avanzada por parte de regímenes autoritarios para la vigilancia, la represión y el control.