Meta、AI生成画像のラベリングに関する拡大ポリシーを発表

Meta（旧Facebook）は、Facebook、Instagram、ThreadsなどのプラットフォームにおけるAI生成コンテンツの普及に関連する課題に対処するための拡大されたポリシーを発表しました。

生成AIの使用が増加する中、同社はAI生成画像に警告ラベルを実装し、ユーザーにその人工的な起源を知らせることにしました。この動きは肯定的な一歩と見なされていますが、悪意のある行為者に対抗する効果や技術の限界に関する懸念は残っています。

AI生成画像への警告ラベル

Metaの最新のポリシー変更では、同社の生成AIツールまたは他社が提供するツールを使用して作成されたAI生成画像に、その人工的な性質を示すラベルを付けることが含まれます。この動きは、実際の写真として偽装されたAI生成画像による誤情報や偽情報の拡散リスクを軽減することを目的としています。

 Metaは、AIによって生成された画像に「Imagined with AI」というラベルを付けており、主にアルゴリズムによって出力に埋め込まれたデジタル透かしを識別することでこれを行っています。

課題と制限

Metaがこれらの警告ラベルの実装にコミットしているにもかかわらず、大きな課題が残っています。顕著な課題の一つは、多くのAI画像生成ツールが出力に透かしを付けないため、悪意のある行為者が開示なしにAI生成コンテンツを操作して拡散しやすいことです。 

さらに、AI生成画像を信頼できる方法で検出し、ラベルを付ける技術はまだ開発段階にあり、普遍的に展開された標準は存在しません。

Adobeによって設立されたコンテンツの由来と真正性を目的としたCoalition for Content Provenance and Authenticity（C2PA）は、企業のコンテンツ由来に関する取り組みの整合化を試みてきました。しかし、これまでに開発された技術は完全ではありません。 

研究者たちは、透かしがAI生成以外の画像に簡単に破られたり追加されたりすることを示し、その効果を弱めています。

C2PAイニシアチブに助言を提供するUCバークレー情報学部教授のHany Faridは、悪意のある行為者が出力に透かしを付けないAIツールを使用してユーザーをさらに欺く可能性があることを警告しています。 

彼は、透かしやハッシュベースの技術などの識別方法の組み合わせが、AI生成コンテンツを堅牢に識別するために必要になる可能性があると考えています。透かし技術は、画像以外のAI生成メディア（オーディオやビデオなど）ではまだ発展途上です。

ポリシーの拡大と監視

Metaの新しいポリシーは偽のコンテンツと戦うための一歩前進ですが、AI生成素材に限定されているわけではありません。独立した専門家들로構成されるMetaの監視委員会は、誤解を招く印象を与えるように編集されたJoe Biden大統領の動画の掲載を維持するMetaの決定を最近支持しました。 

この決定は、Metaが「操作されたメディア」に関するルールをAI生成コンテンツだけでなく、より多くの範囲にわたって見直し、拡大する必要があることを浮き彫りにしています。

Metaの spokesperson であるKevin McAlister氏は、より広範なアプローチの必要性を認め、「企業は画像ジェネレーターにシグナルを含め始めましたが、同じ規模でオーディオやビデオを生成するAIツールにはまだ含めていません」と述べています。 

そのため、Metaは、ユーザーがAI生成のビデオやオーディオを共有する際に開示できる機能を追加し、適切なラベルを適用できるように作業を進めています。