Meta、ディープフェイクへの懸念に応えて5月までにAIコンテンツラベリングを導入

FacebookとInstagramの巨大企業Metaは金曜日、ディープフェイクに関するユーザーや政府の懸念を和らげるため、5月からAIコンテンツへのタグ付けを開始すると発表した。さらに、言論の自由を尊重するため、ポリシーに違反していない加工された写真や音声は削除せず、用語と文脈に基づいて削除すると述べた。Metaは「AIで作成」というラベルを付与すると宣言した。Facebook、Threads、Instagramの投稿はすべてこのポリシーの対象となる。.

Metaは、現在のポリシーが「範囲が狭すぎる」ことを認め、より多くの音声、動画、画像コンテンツを人工知能（AI）生成コンテンツとして指定すると発表した。同社は検出方法については詳細を明らかにしていないが、ユーザーがAIツールの使用を告白した場合、またはMetaが業界標準のAI画像インジケーターでコンテンツを認識した場合、ラベルが適用される。.

メタ、監督委員会の批判に反応

これらの修正は、コンテンツを修正するインターネット大手Metaのdent 評価委員会であるMetaの監督委員会からの批判を受けたものです。AIの驚異的な進歩と、メディアを操作して非常に説得力のあるディープフェイクを作成することが容易になったため、委員会は2月にMetaに対し、

メディア操作戦略を迅速に見直す必要がある。地方選挙と世界選挙の両方にとって重要な選挙の真っ只中、プラットフォーム上でAI搭載アプリが偽情報を流すために悪用されるケースが増加していることへの懸念から、委員会は警告を発した。.

コンテンツポリシー担当副dent のモニカ・ビッカート氏は次のように述べた。

「監督委員会は、現行のアプローチは、AIによって作成または改変され、人が言っていないことを言っているように見せかける動画のみを対象としているため、対象範囲が狭すぎると主張しているが、これに我々は同意する。」

出典: メタ

監督委員会の勧告を受け、Metaは操作されたメディアへの対応方針を転換しました。同社は今後、コンテンツの出所と真正性に関する透明性を確保するために、コンテンツを完全に削除するのではなく、ラベル付けと文脈の明示に注力します。Metaが述べているように、これは言論の自由を守りつつ、誤解を招く、あるいは欺瞞的なメディアによる被害からメディアを守るという同社のコミットメントに基づくものです。.

AIコンテンツラベリングの実装

Metaによるラベリングプロジェクトは2段階で実施され、第1段階は2024年5月に開始されます。 AI生成コンテンツが認識され、適切に分類されます。また、操作の可能性をユーザーに警告するため、一般の人々を欺くリスクが高いと判断されたコンテンツには、より目立つようにラベルが付けられます。

以前のポリシーのみに基づいて改変されたメディアを削除するという行為は、7月に開始予定のMetaの第2段階の展開に伴い廃止されます。AI操作されたコンテンツが、ヘイトスピーチの禁止や選挙への干渉といった他のコミュニティ規定に違反しない限り、新しい規定の下でもプラットフォーム上でアクセス可能となります。Metaは、プラットフォームの完全性を維持しながら表現の自由を認めることに尽力しており、この方法はそのコミットメントを体現しています。.

ビッカート氏はこう付け加えた。 

「このラベルは、監督委員会がラベル表示を推奨した操作されたコンテンツに加えて、より広範なコンテンツをカバーすることになる。」 

出典: Meta Inc.

AIツールで作成されたかどうかに関わらず、いじめ、選挙への干渉、嫌がらせなどに関するガイドラインに違反するコンテンツは削除されます。.

大手デジタル企業とAI企業は2月に、有権者を誤解させることを目的とした操作されたコンテンツの取り締まりを強化することで合意しました。これは、これらの新しいラベル付け手法と関連しています。AIアプリケーションによって生成された写真に使用される単一の透かし規格については、Meta、Google、OpenAIが既に合意しています。.