AIデッドボットがデジタルの尊厳に疑問を投げかけ、倫理的な懸念が高まる

AI専門家は、死者のデジタル蘇生、いわゆるデッドボットAIが現実のものとなりつつあると警告しています。そのため、作成者や使用者の「憑依」によって人々が精神的被害を受けるのを防ぐため、この問題を規制する必要があります。.

技術的に可能で法的に許容されるこのようなサービスの例としては、ケンブリッジ大学の科学者が述べているように、亡くなった人との保存された会話を使って「おばあちゃんに電話をかける」といった会話を聞いた後の人々の感情を理解するようなチャットボットの作成が可能になるだろう。 

調査によると、一部の企業は、故人が残したデジタルフットプリントを利用して、チャットボットが故人の言語パターンや性格特性を模倣できる、ドラマ「ブラック・ミラー」のエピソード「すぐに戻る」を彷彿とさせるサービスを提供しているという。.

デジタルの尊厳を守るための安全規制の強化

この研究では 掲載された 、企業がデッドボットをどのように利用する可能性があるかの例が紹介されている。例えば、亡くなった愛する人に似た方法で商品を宣伝したり、亡くなった親が「あなたと一緒にいる」と主張して子供にトラウマを与えたりするケースなどだ。 

しかし、いかなる場合でも、信頼できない企業や無謀な事業計画は、長期的な精神的ダメージや故人の権利の侵害につながる可能性があると論文は示唆している。.

研究者たちは、日常的な交流は圧倒的な感情的重圧を抱えながら行われていると示唆しています。彼らは、そのような感情的なサポートは、喪失に対処する自然な方法である悲嘆のプロセスを妨げる可能性もあると主張しています。. 

倫理的な地雷原

 ケンブリッジ大学レバーヒューム未来知能センター（LCFI）に所属し、本研究の共著者の一人であるカタジナ・ノヴァチク＝バシンスカ博士は、 「生成AIの急速な進歩により、インターネットにアクセスでき、基本的な知識さえあれば、ほぼ誰でも亡くなった愛する人を蘇らせることができるようになる」と述べた。 

AIのこの分野は倫理的な地雷原のようです。最も重要なのは、例えばデジタル死後の世界を提供するサービスのような営利目的のサービスによって、故人の尊厳が侵害されないよう徹底することです。大きな問題は、オンラインのレガシーインフラを広告を通じて商業化しようとする企業から生じる可能性があります。. 

子供たちをこのプロセスに巻き込むのは特に危険です。最悪の結果に直面する可能性があるからです。最近両親を亡くした子供たちを慰めたい親にとって、「デッドボット」のような仲間の存在は、近い将来必要になるかもしれません。.

悲嘆のプロセスへの影響

しかし、このような取り組みの適切性を示す研究はなく、通常の喪のプロセスに悪影響を与える可能性があることは言うまでもなく、非常に不快な影響をもたらす可能性があることを考えるべきです。.

研究論文によると、 「子どもたちが『デッドボット』と交流することが有益である、あるいは少なくともこの脆弱なグループに害を与えないことを証明できる再現サービスは存在しない」とのことだ。

死者の尊厳と生者の精神的幸福を確保するため、研究者らは、死を規制する法律を制定するほどに活用できる一連のベストプラクティスを提案している。.

こうしたプラットフォームには、デッドボットを「引退」させ、インタラクティブ機能を成人のみに制限し、フル稼働中の人工実体の限界を認識し、顧客に対して非常に透明性を保つためのプロトコルが必要です。.

グローバルな展開と多様なアプリケーション

研究者によると、AIを用いて死者の画像を比較的低コストで生成できるプラットフォームがいくつか存在する。例えば、当初はGPTモデルを使用し、後にそのシステムを採用したProject Decemberや、Hereafterのようなアプリもある。.

同様に、研究で示されたのと同じサービスを提供する中国企業も存在します。2021年には、ジョシュア・バーボー氏 注目を集めました 。2015年には、ユージニア・クイダ氏が亡くなった友人のテキストメッセージをチャットボットに変換し、これがReplikaと呼ばれる最も人気のあるAIコンパニオンアプリの誕生につながりました。

この技術はチャットボットに限ったものではありません。系図サイトMyHeritageは2021年、「Deep Nostalgia」という機能を導入しました。これは、ユーザーの先祖との写真からアニメーション動画を生成する機能です。この機能が話題になるや否や、多くのユーザーが不気味だと感じたことを同社は認めざるを得ませんでした。こうした技術が徐々に進歩していく中で、開発を促進するためには倫理観を念頭に置く以外に方法はないのです。.