ディープフェイクへの懸念に対応し、Metaが5月までにAIコンテンツのラベリングを実施

ディープフェイクに関するユーザーや政府の懸念を和らげるため、FacebookとInstagramの親会社であるMetaは金曜日、5月にAIコンテンツのタグ付けを開始すると発表しました。ソーシャルメディアの巨人はさらに、表現の自由の権利を尊重するため、ポリシーに違反しない改変された写真や音声の削除を中止し、代わりに用語と文脈に依存すると述べました。同社は「AIで作成」というラベルを含めると宣言し、Facebook、Threads、Instagramの投稿すべてがこのポリシーの対象となります。

Metaは、オーディオ、ビデオ、画像コンテンツのより多くを人工知能（AI）生成として指定することを開始すると発表し、現在のポリシーが「狭すぎる」と認めています。同社は検出方法については詳しく説明しませんでしたが、ラベルは、ユーザーがAIツールの使用を告白した場合、またはMetaが業界標準のAI画像インジケーターでコンテンツを認識した場合に適用されます。

Metaが監視ボードの批判に対応

これらの変更は、インターネットの巨人のコンテンツを修正する独立した評価パネルであるMetaの監視ボードからの批判を受けて促されました。AIの劇的な進歩と、メディアが非常に説得力のあるディープフェイクに操作されやすさにより、ボードは2月にMetaに対し

メディア操作に対する戦略を迅速に見直す。地域および世界的に重要な選挙年である最中、ボードはプラットフォーム上でのAI搭載アプリケーションの誤用による情報操作の増加への懸念の中で警告を発した。

コンテンツポリシー担当副社長モニカ・ビケットは次のように述べた。

「既存のアプローチは、AIによって作成または改変され、人物が言っていないことを言ったように見せる動画のみを対象としているため、狭すぎるとするオーバーサイトボードの主張に同意します。」

ソース: Meta

オーバーサイトボードの勧告に対応し、Metaは操作されたメディアに対するアプローチを転換した。 outrightな削除ではなく、コンテンツの起源と真正性に関する透明性を提供するため、ラベリングと文脈化に依存することにした。Metaは、表現の自由を維持しつつ、誤解を招くまたは欺瞞的なメディアによる危害から保護するというコミットメントのため、この方法を採用している。

AIコンテンツのラベリングの実装

Metaのラベリングプロジェクトは2つの段階で実施され、第一段階は2024年5月に開始されます。AI生成コンテンツ（オーディオ、ビデオ、画像など多様なメディアフォーマットを含む）は、この段階で適切に認識され分類されます。さらに、公衆を欺く可能性が高いと判断されたコンテンツは、操作の可能性についてユーザーに警告するため、より顕著にラベル付けされます。

以前のポリシーに基づいた改変メディアの削除は、7月に稼働予定のMetaの第2段階 rollout の一部として中止される。AIによって操作されたコンテンツが、ヘイトスピーチの禁止や選挙への干渉など、他のコミュニティガイドラインに違反しない限り、新しい基準の下でプラットフォーム上でアクセス可能 remain する。Metaは、プラットフォームの整合性を維持し、表現の自由を認めるバランスを取ることに取り組んでおり、この方法はそのコミットメントを表している。

ビケットはさらに付け加えた。 

「ラベルは、オーバーサイトボードがラベリングを推奨した操作されたコンテンツに加え、より広範な範囲のコンテンツをカバーする。」 

ソース: Meta Inc.

AIツールで作成されたかどうかにかかわらず、いじめ、選挙への干渉、ハラスメントなど、他のガイドラインに違反するコンテンツは、引き続き削除される。

主要なデジタル企業やAI企業は2月、有権者を誤導することを意図した操作されたコンテンツの撲滅で合意に達した。これは、これらの新しいラベリングアプローチに関連している。Meta、Google、OpenAIは、AIアプリケーションによって生成された写真に使用される単一の透かし標準についてすでに合意していた。