Anthropics Christopher Olah trifft Papst Leo XIV für eine große KI-Veranstaltung im Vatikan

Anthropic-Mitbegründer Christopher Olah wird Papst Leo XIV am 25. Mai im Vatikan zur Veröffentlichung der ersten Enzyklika des Papstes, Magnifica Humanitas, beitreten, um herauszufinden, wie man die menschliche Würde im Zeitalter der KI bewahren kann.

Normale Veranstaltungen für vatikanische Dokumente finden normalerweise im Vatikanischen Pressebüro statt, wobei einige Beamte Fragen von Reportern beantworten.

Aber dieses Mal geht es in den großen Vatikanischen Audienzsaal. Laut AP wird Papst Leo XIV teilnehmen, sprechen und den letzten Segen spenden. Kardinal Pietro Parolin, der Staatssekretär des Vatikans, wird die formale Präsentation abschließen, dann werden Kardinal Víctor Manuel Fernández, der die Lehre leitet, und Kardinal Michael Czerny, der die Entwicklungsfragen leitet, das Dokument vorstellen.

Olah von Anthropic wird als Gast aus der Laienschaft sprechen, auch die Theologinnen Anna Rowlands und Leocadie Lushombo sind für die Veranstaltung aufgeführt.

Die Veranstaltung des Vatikans dreht sich um KI, Kriegsführung und menschliche Würde

Anthropic vermarktet sich als ein KI-Unternehmen, das auf Sicherheit und Risikokontrolle aufgebaut ist, und hat bereits bekanntermaßen mit der Trump-Regierung über die Weigerung gekämpft, seine Technologie für Kriegsverbrechen und zivile Überwachung zu nutzen.

Seit seiner Wahl hat Papst Leo XIV jedoch immer wieder vor KI im Krieg gewarnt und stärkere Überwachung der Nutzung der Technologie gefordert. Er ist auch sehr öffentlich von Donald Trump unbeliebt, der der Welt mindestens viermal gesagt hat: „Ich mag Papst Leo nicht.“

Leo unterzeichnete Magnifica Humanitas am 15. Mai und machte deutlich, dass der Vatikan KI als volle soziale Krise behandelt, vielleicht sogar ein wenig apokalyptisch.

Der Vatikan war bereits in diese Debatte eingetreten, bevor Leo Papst wurde. Im Jahr 2020 versammelte er Tech-Unternehmen um den „Rome Call for AI Ethics“, ein Versprechen, das auf Inklusion, Rechenschaftspflicht, Unparteilichkeit und Privatsphäre aufgebaut war. Microsoft (MSFT), IBM (IBM) und Cisco (CSCO) gehörten zu den Unternehmen, die dies unterzeichneten.

Papst Francis drängte auch die Regierungen, KI vor seinem Tod zu regulieren. Francis forderte einen internationalen Vertrag und warnte, dass Technologie ohne Mitgefühl, Barmherzigkeit, Moral und Vergebung nicht einfach den Entwicklern überlassen werden dürfe.

Francis brachte die gleiche Botschaft 2024 zur Gruppe der Sieben, wo er die Führer zu den Risiken und möglichen Anwendungen von KI ansprach. Er sagte, Politiker müssten sicherstellen, dass KI beim Menschen im Mittelpunkt bleibt. Er sagte auch, dass Entscheidungen über Waffen, einschließlich weniger tödlicher Werkzeuge, bei den Menschen bleiben müssen. Francis forderte ein Verbot von tödlichen autonomen Waffen, die oft als „Killer-Roboter“ bezeichnet werden.

Anthropic sieht sich Druck aus Washington ausgesetzt, während sein IPO näher rückt

Anthropic wurde 2021 gegründet, als Dario Amodei und ein Team von Wissenschaftlern OpenAI verließen, aufgrund von Uneinigkeiten über die Richtung, in die sich das Unternehmen in Bezug auf KI-Sicherheit entwickeln sollte. Davor arbeitete Dario Amodei bis zum Aufkommen der Uneinigkeit mit Sam Altman bei OpenAI.

Danach startete Anthropic Claude und wurde zu einem der Hauptwettbewerber von OpenAI. Sie arbeiten an künstlicher allgemeiner Intelligenz (AGI), einer Art von KI, die bei mehreren Aufgaben besser abschneiden kann als Menschen. Dies macht die Regulierungsbehörden besorgt, da AGI nicht nur auf die Entwicklung besserer Chatbots beschränkt ist. Der mögliche Einfluss solcher KI-Systeme in Finanzen, Militär, Wissenschaft und Politik kann nicht vernachlässigt werden.

In diesem Jahr meldete Anthropic, das immer noch ein privates Unternehmen ist, dass sich seine Bewertung auf etwa 380 Milliarden US-Dollar erhöht hat. Das bedeutet, dass Claude zur gleichen Kategorie von Wettbewerbern wie OpenAI und Elons Firma XAI (Grok) gehört. SpaceX, im Besitz von Elon Musk, ist mit xAI verschmolzen. Daher bleiben SpaceX und xAI private Unternehmen und haben keine öffentlich gehandelten Aktien-Ticker.

Darüber hinaus äußerte Anthropic Bedenken bezüglich des KI-Wettlaufs zwischen den USA und China. Kürzlich stellten sie fest, dass die USA und ihre Verbündeten die Führung in der KI-Technologieentwicklung behalten und Regulierungen bezüglich der Verbreitung von KI schaffen sollten. Sie warnten auch vor der Nutzung fortschrittlicher KI durch autoritäre Regime zur Überwachung, Unterdrückung und Kontrolle.