会話型AIアプリ「2Wai」、倫理面で批判に直面

このアプリは、2011年から2016年までディズニーシリーズ「オースティン＆アリー」でデズ役を演じたことで知られる創設者兼クリエイターのカラム・ワーシー氏と、プロデューサーのラッセル・ガイザー氏によって開発されました。2人は先日、11月11日に2WaiのiOSベータ版をリリースすると発表しました。.

アプリケーションの HoloAvatar 機能は、アップロードされたビデオ、オーディオ、テキスト入力から会話型のビデオ アバターを生成し、40 を超える言語でリアルタイム チャットを可能にします。.

2Waiの申請は世間の厳しい監視に直面

このアプリケーションは、遺産保存のためのツールとして開発されましたが、故人を再現できる機能が大きな話題となっています。この開発は、未亡人が亡くなった夫の幽霊を生き返らせる2013年のブラック・ミラーのエピソード「Be Right Back」と比較されることもあります。2Waiのプロモーションビデオは、Worthyの公式X アカウント、2200万回以上再生され、約5万8000件のコメントが寄せられています。

この動画は、妊娠中の女性が亡き母親のAIにビデオ通話で相談する様子を描いています。動画は、AIが生まれたばかりの赤ちゃんに寝る前に物語を読んで聞かせている場面へと切り替わります。最後のシーンでは、成長した息子であるワーシーがAIにアドバイスを受けている様子が映し出されます。

「もし、失った愛する人たちが私たちの未来の一部になれたらどうだろう？」と動画は問いかけます。「2Waiがあれば、3分が永遠に感じられる」。ワーシー氏は続けてこう言いました。「2Waiでは、一つ一つの物語を通して、人類の生きたアーカイブを構築しています。」

HoloAvatarsは、2WaiのFed Rainテクノロジーを採用しており、このテクノロジーはデバイス上でインタラクションを処理することでプライバシーを確​​保しつつ、ユーザーが承認したデータへの応答を制限し、 AIの誤作動を軽減すると主張している。また、このアプリは、ファンとの交流やコーチングのためにアバターを作成する熱心なユーザーをサポートする機能も提供しており、これはWorthyのデジタルツインでも共有された機能である。現在は無料ベータ版だが、段階的なサブスクリプションモデルに移行する予定で、価格はまだ公表されていない。

専門家が法的なグレーゾーンについて議論

2Waiの開発は、2023年のSAG-AFTRAストライキに遡る。このストライキでは、俳優たちが無許可のAIによる肖像権の使用に抗議した。「過去20年間、俳優、脚本家、プロデューサーとして活動してきた中で、世界中のファンと有意義な関係を築くことがいかに難しいかを身をもって経験しました」と、6月のローンチ時にワーシー氏は語った。「言語の壁、時差、予算などが、真に繋がり合うことを阻害しているのです。」

2Waiは6月に非公開の投資家から500万ドルのプレシード資金を調達し、ブリティッシュ・テレコムとIBMと提携していることを明らかにした。しかし、2WaiとそのHoloAvatarsにとって、世間の認識は最大の課題の一つとなっている。Xのユーザーは、このアプリを「悪夢の燃料」「悪魔的」「ディストピア的」、そして悲しみを搾取する商業化だと非難している。.

拡散した返信によると、あるユーザーはこれを「今まで見た中で最も邪悪で精神異常なものの一つ」と呼び、喪失を処理するのではなく、それをシミュレートすることで「人間を精神異常にさせる」と主張した。別のユーザーはこれを「下劣を通り越して」と評し、「動画はアーカイブ化のためにそうする」のであって、AIの推測によるものではないと主張した。.

一方、法律専門家は、デスボットは法的にも倫理的にもグレーゾーンにあると主張している。彼らは、死者の明示的な許可なしにデスボットを製作できると主張している。.

さらに、このアプリは故人とその遺族双方の極めて個人的なデータを公開する可能性があり、デジタルアバターと付随データの所有権をめぐって曖昧さを生み出す可能性があると主張している。プライバシー法は生存者を保護するものの、死後の保護措置はほとんど、あるいは全く設けられていない。このアプリには故人のアバターを利用するためのオプトイン要件と家族の承認が含まれているが、批評家たちは依然としてこれらの要件の施行について懸念を抱いている。.