Zoomの今後の機能である会議で話すAIアバターにはディープフェイクの可能性がある

Zoomは、AIアバターの近日公開機能を発表しました。ユーザーは、自身のAIクローンを使ってZoomクリップ専用の録画を行うことができます。この機能は来年リリースされる予定です。. 

AI アバター機能は、本日 10 月 9 日の Zoom 年次開発者会議で発表されました。

ユーザーはまず自分の動画を録画し、クローンに自分の姿を複製する必要があります。AIクローンが作成されると、ユーザーはコンテンツを入力するだけで、AI版の自分の音声がユーザーの声で生成されます。動画では、入力されたコンテンツがリップシンクされ、デジタルクローンが話すシーンが再現されます。.

なお、この機能は、ユーザーが短いメッセージを録画して送信するZoomクリップのみで利用可能です。この場合、ユーザーは短いビデオメモにAIを映し出すことになります。.

Zoomはディープフェイクの可能性を考慮している

ソーシャルメディア上でディープフェイクコンテンツが拡散し、多くのアプリがそれを検出するための対策を講じていることから、Zoomもその可能性を認めている。

「今後も必要に応じて安全対策を見直し、追加していきます」とハシム氏は述べた。「アバターを使って生成されたクリップであることを明確に示す技術を採用し、アバターで生成されたコンテンツの完全性を確保しています。」スミタ・ハシム

Zoomの最高製品責任者であるスミタ・ハシム氏は記者会見で、高度な認証、厳格な利用ポリシー、そして透かし技術によって、リスクに非常に慎重に対処していくと述べました。しかし、リリースが近づくにつれて、認証とポリシーについてより具体的な説明が行われると予想されます。.

一方、Zoom のカスタム アバター機能のモックアップに示されているように、隅に表示される透かしは簡単に削除できます。.

これはズームCEOの「AIツイン」構想への第一歩となるかもしれない

この発表は、以前Verge誌でAIツインの構想を語ったZoom CEOのビジョンと合致するものです。彼の野望は、AIツインがZoomユーザーの会議に参加できるようにすることです。

Zoom は、ユーザーの生産性を向上させるためにAI アシスタンスを積極的に導入しています。

カスタムAIアバター機能は、ZoomのAIコンパニオンアドオンとして2025年までにリリースされる予定です。この機能の価格は月額12ドルです。Zoomの有料サブスクリプションをご利用で、この機能に加入されないユーザーは、アバターと音声のプリセットをご利用いただけ、独自のアバターを作成する必要はありません。.