YouTube、AI生成ディープフェイクからクリエイターを守るための新ツールを発表

YouTubeは、同意なくユーザーの声や外見のAI生成バージョンが動画で使用されることを検出するためのツールを開発中である。今日の発表で、Google傘下のプラットフォームは、これらのツールがプラットフォーム上のクリエイターを保護すると述べた。

この発表は歓迎すべき発展である。これらのツールは、ディープフェイクの蔓延、場合によっては金銭的および評判上の損失につながる重大な懸念に対処している。多くの人々は、ディープフェイクの特定および報告のプロセスをよりシームレスにするだろうと期待している。

2つのツールはミュージシャンおよび著名人の保護に焦点を当てている

同社は、2つのツールに取り組んでいると説明した。1つ目は、YouTube Content IDシステムの一部となる歌唱音声識別ツールである。この機能は、プラットフォーム上の他の人の歌唱声を模倣するAI生成コンテンツを自動的に検出し、自動的に削除する。

2つ目のツールについて、YouTubeは、クリエイター、アスリート、ミュージシャン、アーティストなどの著名人が、プラットフォーム上の自分の顔のディープフェイクを検出し、削除することを可能にする技術を開発中である。同社は、これらのツールがプライバシーアップデートおよび利用規約と合わせて、クリエイターを保護するのに十分であると指摘した。

しかし、YouTubeの目標はプラットフォーム上でのAIの使用を止めることではなく、AIの責任ある使用を確保し、クリエイターが自分の外見の使用を制御できるようにすることである。

言いました:

「AIは人間の創造性を高めるべきであり、置き換えるべきではありません。私たちはパートナーと協力し、将来の進歩が彼らの声を増幅することを確実にすることに取り組んでおり、懸念に対処し共通の目標を達成するためにガードレールを開発し続けます。」

一方、YouTubeはこれらの機能がユーザーに提供される時期についてタイムラインを示さず、歌唱音声検出ツールはまだいくつかの微調整が必要であることに言及するにとどめましたが、2025年初頭にはパイロットプログラムが開始される予定です。

YouTube、AIデータスクレイピング防止技術を予告

YouTubeはまた、AI企業がプラットフォーム上のコンテンツを所有者の許可なくモデルのトレーニングに使用するのを防ぐためのツールの開発にも着手していることを示唆しました。この問題を重大な課題と見なしているプラットフォームは、サードパーティがプラットフォームからデータをスクレイピングし、利用規約に違反するのを検出およびブロックするシステムへの投資を進めていると述べました。

ただし、クリエイターがAI企業と協力したいと考えている可能性を認めており、そのため、YouTubeのクリエイターがプラットフォーム上でのサードパーティによるコンテンツの利用方法を制御できるようにする方法を模索しています。

YouTubeがAI企業によるコンテンツのスクレイピングに対して厳しい姿勢を示しているにもかかわらず、プラットフォームとその親会社であるGoogleは、利用規約に準拠しながらも、同じ目的でこのコンテンツを使用しています。同社は、責任を持ってAIツールの開発にこのコンテンツを引き続き使用する計画です。