教皇、AIが人間関係にもたらす危険性を警告

教皇レオ14世は、人工知能が人間の行動やつながりに与える危険性について警告した。彼は、AIモデルが人間のアイデンティティや関係を乗っ取り、世論に影響を与え、社会的分極化を深める可能性があると指摘した。

今年に入って以来、多くの人工知能（AI）モデルが批判に直面している中、これらのコメントが出された。最も顕著なものは、xAIのチャットボット「Grok」で、女性や子供に対する不適切なディープフェイク画像の作成に使用されたことについて批判を受けている。

世界中の各国がプラットフォームに対しチャットボットの修正を命じる命令を出しており、一部の国ではエロン・マスク氏に安全対策を講じて問題を解決するよう求めながら、自国での使用を停止するところまで至っている。

教皇レオ14世、AIが人間にもたらす危険性を強調

社会コミュニケーションの日を記念したメッセージの中で、教皇はAIシステムが作成者の世界観を反映し得ると指摘した。また、処理されるデータに埋め込まれたバイアスを再現することで、思考のパターンを形成し得るとも述べた。「課題は、人間のアイデンティティと真の関係を保護することにかかっています」と教皇は語った。

再び、顔と声によって個人が語られる必要があります。コミュニケーションの賜物を人間の最も深い真実として守り、すべての技術革新をそれに向けて導く必要があります。 https://t.co/PmSAHj4gju

— 教皇レオ14世 (@Pontifex) 24月 2026日

教皇レオ14世の警告は、生成AIが複製に向けて飛躍的な進歩を遂げている時期にも重なっている。これらのモデルは現在、画像、音楽、テキストを製造するために使用されており、そのレベルは時として人間の作品と見分けがつかないほどになっている。

2023年、彼の前任者であるフランシスコ教皇は、複数のバズった偽AI画像の題材となった。ある画像では、彼は普段の法衣ではなく白いパフジャケットを着ており、他の画像では何らかの方法で改変されていた。

それ以来、生成AIは米国大統領ドナルド・トランプを含むいくつかの著名人にとってのデファクトツールとなっており、彼はAI生成画像をいくつか作成し、オンラインアカウントに投稿している。

演説の中で、教皇レオ14世は、AI開発において大きな権力を握っている企業が限られていること、そしてAIツールが人間によって作成された作品とモデルを使用して作成された作品の見分けをますます難しくしていることを警告した。

教皇、技術リーダーにAIリスクの調査を促す

教皇レオ14世が、人工知能に関連するリスクや危険性について世界の人々に警告したのは今回が初めてではない。昨年5月、米国出身の最初の教皇として選出されて以来、彼はAI技術の増大する影響力について一貫して警告してきた。

11月、彼は技術業界のリーダーたちに対し、人間の尊厳を尊重するAIモデルを構築するよう促した。

彼は、AI開発は、学習し、決定し、世界的規模で操作するシステムを構築する際に、私たちがどのような存在になるかというより大きな闘争の一部であると強調した。

「技術革新は、神の創造行為への参加の一形態となり得ます。それは倫理的かつ精神的な重みを持ち、すべての設計選択は人間観を表現します」と、教皇はその時に語った。彼はAIの構築者に対し、生命に対する真の敬意を示すモデルを作成するよう呼びかけた。

生命に対する真の敬意を示すモデルを作成することに加え、教皇は統計的確率を信頼できる知識として提示するシステムを批判し、これらのツールは近似値しか提供しないと付け加えた。彼は、今後の課題は効果的なガバナンスを確立することであり、各国がアルゴリズムが現実の認識に与える影響について若者を教育するよう呼びかけた。

教皇はまた、軍事応用におけるAIの使用増加を非難し、生命の存亡にかかわる決定を機械に委ねることに対して警告した。