Zoomの今後のAIアバター機能による会議での会話には、ディープフェイクの可能性も含まれるかもしれません

Zoomは、AIアバターの今後の機能を発表しました。ユーザーは自分自身のAIクローンを使用して、Zoomクリップ用に特別に録音できます。この機能は来年リリースされます。 

AIアバター機能の発表は、10月9日のZoom年次開発者会議で本日行われました。

ユーザーはまず自分自身のビデオを録画し、クローンとして複製する必要があります。AIクローンが作成されると、ユーザーは後でコンテンツを入力するだけで、AI版の自分がユーザーの声で音声を生成します。コンテンツは、デジタルクローンが話すビデオでリップシンクされます。

この機能は、ユーザーが短いメッセージを録画して送信するZoomクリップのみに限定されていることに注意してください。この場合、ユーザーは短いビデオノートにAIを備えることになります。

Zoomはディープフェイクの可能性を考慮しています

ディープフェイクコンテンツがソーシャルメディアで拡散して以来、多くのアプリが対策を講じています。Zoomもその可能性を認めています。

「必要に応じて、将来もレビューを行い、安全対策を追加していきます」とHashimは述べています。「私たちは、クリップがアバターで生成されたことを明確にするための(…)技術と、アバター生成コンテンツの整合性を確保するための(…)技術を採用しています。」Smita Hashim

ZoomのチーフプロダクトオフィサーであるSmita Hashimは、プレスブリーフィングで、同社は高度な認証、厳格な使用ポリシー、および透かし技術を使用して、リスクを非常に慎重に処理すると述べました。ただし、リリースが近づくと、認証とポリシーについてより具体的になると予想されます。

一方、Zoomのカスタムアバター機能のモックアップに表示される隅の透かしは、簡単に削除できます。

これは、Zoom CEOの「AIツイン」ビジョンへの第一歩となる可能性があります

この発表は、Zoom CEOが以前Verge magazineでAIツインの目標について言及したビジョンと一致しています。彼の野心は、AIツインがZoomユーザーの会議に出席できるようにすることです。

Zoomは、ユーザーの生産性を向上させるためにAI支援の統合を積極的に進めています。

カスタムAIアバター機能は、2025年までにZoomのAIコンパニオンアドオンとしてリリースされます。この機能の価格は月額12ドルです。この機能にサブスクライブしないが、有料Zoomサブスクリプションを保有しているユーザーは、独自のアバターを作成する代わりに、アバターと音声のプリセットを使用できます。