の急増に関連する課題に対処するための拡張ポリシーを発表した AI生成 Facebook、Instagram、Threadsなどのプラットフォーム上での
生成型人工知能（GAI）の利用拡大を受け、同社はAI生成画像に警告ラベルを付与し、その起源をユーザーに知らせる予定です。この動きは前向きな一歩と受け止められていますが、悪意のある行為者への対策としての有効性や、この技術の限界については依然として懸念が残っています。.
AI生成画像上の警告ラベル
Metaの最新のポリシー変更は、AI生成画像（自社のAI生成ツールを用いて作成されたものでも、他社が提供したものでも）に、人工的な性質を示すラベルを付与するというものです。この変更は、AI生成画像が本物の写真として偽装されることで、誤情報や偽情報が拡散されるリスクを軽減することを目的としています。.
Meta は、主に同社のアルゴリズムによって出力に埋め込まれたデジタル透かしをdentすることによって、同社の AI によって生成された画像に「AI で想像された」というラベルを付けてきました。.
課題と限界
Metaはこれらの警告ラベルの実装に尽力しているものの、依然として大きな課題が残っています。特に注目すべき課題の一つは、多くのAI画像生成ツールが出力に透かしを入れていないことです。そのため、悪意のある人物がAI生成コンテンツを改ざんし、開示されることなく拡散させることが容易になっています。.
さらに、AI によって生成された画像を確実に検出してラベルを付ける技術はまだ開発段階にあり、普遍的に展開される標準は存在しません。.
Adobeが設立したイニシアチブであるコンテンツの出所と真正性に関する連合（C2PA）は、企業のコンテンツの出所に関する取り組みを連携させようと試みてきました。しかし、これまでに開発された技術は完璧ではありません。.
研究者らは、AI で生成されていない画像では透かしを簡単に破壊したり追加したりすることができ、その効果を損なう可能性があることを実証した。.
C2PAイニシアチブに助言するカリフォルニア大学バークレー校情報学部のハニー・ファリド教授は、悪意のある人物が出力に透かしを入れないAIツールを使用してユーザーをさらに欺く可能性があると警告している。.
を組み合わせるdent、透かしやハッシュベースの 技術必要があるかもしれないdent。透かしは、画像以外の音声や動画といったAI生成メディアでは、あまり開発されていない。
政策と監督の拡大
Metaの新しいポリシーは偽コンテンツ対策における前進を示すものですが、AI生成コンテンツに限定されるものではありません。dent した専門家で構成される同社の監視委員会は最近、誤解を招く印象を与えるよう編集されたジョー・バイデンdent の動画をそのまま掲載するというMetaの決定を支持しました。.
この決定は、Meta が「操作されたメディア」に関するルールを改訂し、AI 生成コンテンツだけでなく他のものも対象に拡大する必要があることを浮き彫りにしています。.
Metaの広報担当者ケビン・マカリスター氏は、より幅広いアプローチの必要性を認め、「企業は画像ジェネレーターに信号を組み込み始めていますが、同じ規模でオーディオとビデオを生成するAIツールに信号を組み込み始めていません」と述べています。
そのため、Meta は、AI が生成したビデオやオーディオを共有するときにユーザーがそれを開示し、適切なラベルを適用できる機能を追加することに取り組んでいます。.
