Christopher Olah von Anthropic wird Papst Leo XIV. bei einem wichtigen KI-Event im Vatikan begleiten

Christopher Olah, Mitbegründer von Anthropic, wird am 25. Mai gemeinsam mit Papst Leo XIV. im Vatikan an der Veröffentlichung der ersten Enzyklika des Papstes, Magnifica Humanitas, teilnehmen, um herauszufinden, wie die Menschenwürde im Zeitalter der KI bewahrt werden kann.

Die üblichen Veranstaltungen zur Verkündung vatikanischer Dokumente finden in der Regel im Presseraum des Vatikans statt, wo einige Beamte Fragen von Journalisten beantworten.

Dieses Dokument wird jedoch im Hauptsaal des Vatikans präsentiert. Laut AP Papst Leo XIV. anwesend sein, eine Rede halten und den abschließenden Segen erteilen. Kardinalstaatssekretär Pietro Parolin wird die offizielle Präsentation beenden, anschließend werden Kardinal Víctor Manuel Fernández, zuständig für die Glaubenslehre, und Kardinal Michael Czerny, zuständig für Entwicklungsfragen, das Dokument vorstellen.

Olah von Anthropic wird als Laiengast sprechen, außerdem sind die Theologinnen Anna Rowlands und Leocadie Lushombo für die Veranstaltung angekündigt.

Die Veranstaltung im Vatikan konzentriert sich auf KI, Kriegsführung und Menschenwürde

Anthropic präsentiert sich als KI-Unternehmen, dessen Fokus auf Sicherheit und Risikokontrolle liegt, und ist bekanntermaßen bereits im Streit mit der Trump-Administration, weil diese sich weigert, ihre Technologie für Kriegsverbrechen und die Überwachung der Zivilbevölkerung einsetzen zu lassen.

Seit seiner Wahl warnt Papst Leo XIV. vor dem Einsatz von KI im Krieg und fordert einetronÜberwachung der Technologie. Er ist zudem bei Donald Trump sehr unbeliebt, der mindestens viermal öffentlich erklärte: „Ich mag Papst Leo nicht.“.

Leo unterzeichnete am 15. Mai die Magnifica Humanitas und machte damit deutlich, dass der Vatikan KI wie eine umfassende soziale Krise behandelt, vielleicht sogar wie eine ein wenig apokalyptische.

Der Vatikan hatte sich bereits vor Leos Amtsantritt als Papst in diese Debatte eingeschaltet. 2020 rief er Technologieunternehmen zum „Römischen Aufruf für KI-Ethik“ zusammen, einer Selbstverpflichtung, die auf Inklusivität, Verantwortlichkeit, Unparteilichkeit und Datenschutz basiert. Zu den Unterzeichnern gehörten Microsoft (MSFT), IBM (IBM) und Cisco (CSCO).

Papst Franziskus drängte die Regierungen vor seinem Tod ebenfalls zur Regulierung von KI. Er forderte einen internationalen Vertrag und warnte davor, dass Technologien ohne Mitgefühl, Barmherzigkeit, Moral und Vergebung nicht einfach den Entwicklern überlassen werden dürften.

Franziskus überbrachte diese Botschaft 2024 dem G7-Gipfel, wo er die Staats- und Regierungschefs auf die Risiken und Einsatzmöglichkeiten von KI hinwies. Er betonte, dass die Politik sicherstellen müsse, dass KI den Menschen in den Mittelpunkt stelle. Auch Entscheidungen über Waffen, einschließlich weniger tödlicher Waffensysteme, müssten weiterhin in der Verantwortung des Menschen liegen. Franziskus forderte ein Verbot von tödlichen autonomen Waffensystemen, die oft als „Killerroboter“ bezeichnet werden.

Anthropic steht im Vorfeld des Börsengangs unter Druck aus Washington

Anthropic wurde 2021 gegründet, nachdem Dario Amodei und ein Team von Wissenschaftlern OpenAI aufgrund von Meinungsverschiedenheiten über die zukünftige Ausrichtung des Unternehmens im Bereich KI-Sicherheit verlassen hatten. Zuvor war Dario Amodei bei OpenAI tätig gewesen, bis es zu der Auseinandersetzung mit Sam Altman kam.

Anschließend brachte Anthropic Claude auf den Markt und wurde zu einem der Hauptkonkurrenten von OpenAI. Das Unternehmen arbeitet an künstlicher allgemeiner Intelligenz (AGI), einer KI-Art, die in der Lage ist, viele Aufgaben besser als Menschen zu bewältigen. Genau das beunruhigt die Regulierungsbehörden, denn AGI beschränkt sich nicht allein auf die Entwicklung besserer Chatbots. Der mögliche Einfluss solcher KI-Systeme in den Bereichen Finanzen, Militär, Wissenschaft und Politik darf nicht unterschätzt werden.

Anthropic, das sich nach wie vor in Privatbesitz befindet, meldete dieses Jahr eine Wertsteigerung auf rund 380 Milliarden US-Dollar. Damit gehört Claude zur selben Kategorie von Wettbewerbern wie OpenAI und Elon Musks Unternehmen xAI (Grok). SpaceX, ebenfalls im Besitz von Elon Musk, fusionierte mit xAI. Daher sind SpaceX und xAI weiterhin private Unternehmen und nicht an der Börse notiert.

Darüber hinaus äußerte Anthropic Bedenken hinsichtlich des KI-Wettlaufs zwischen den USA und China. Kürzlich erklärten sie, die USA und ihre Verbündeten sollten weiterhin führend in der KI-Technologieentwicklung sein und Regulierungen für die Verbreitung von KI erlassen. Sie warnten außerdem vor dem Einsatz hochentwickelter KI durch autoritäre Regime zur Überwachung, Unterdrückung und Kontrolle.