Meta、FacebookおよびInstagramでAI生成メディアにラベル付けを行うと発表

FacebookおよびInstagramの親会社であるMetaは、5月以降、合成メディアに手動タグを適用することを中止すると発表しました。このような規制は、同社のメディアに対する一般的なディープフェイクや誤情報攻撃の負担を軽減することができます。

誤情報への懸念への対応

Metaは、 growing criticism（高まる批判）と急速に進化するAI技術に対応し、合成コンテンツの拡散を緩和するために新たな措置を講じると見られています。2024年5月から、テキスト、画像、音声、ビデオが人工知能を使用して作成または変更されたことを示す「AIで作成」ラベルを導入します。

MetaがAI生成素材にタグを付ける決定は、ユーザーに多くの情報と、実質的により多くの透明性を提供するという同社の広範なキャンペーンの一部です。これはつまり、Facebookは偽造されたものを削除する立場にはないものの、それらに追加でラベルを付け、文脈を提供する可能性があることを意味します。MetaのCEOであるマーク・ザッカーバーグ氏は、最終的に操作されたメディアの害に関する教育イニシアチブを立ち上げると述べています。これは、Facebookが委託した監視ボードの調査で主張されていることです。

しかし、偽ニュースキャンペーンにおけるAI搭載アプリケーションが選挙プロセスへの干渉に使用される可能性について懸念がありました。第二に、ボードは緊急性を表明し、特にどの国の選挙期間中にも、効果的な対抗措置の切実な必要性を強調しました。

展開計画とポリシーの変更

ポリシー以前に削除された操作されたメディアは、後日再有効化され、Facebookのニュースコンテンツページで消費者が閲覧できるようになります。新しい基準の下でAIによって操作されたコンテンツは、ヘイトスピーチや有権者干渉などの他のプラットフォームルールに違反する場合にのみ削除されます。

操作されたコンテンツに関する多くの合意の一つとして、Metaは他のテックジャイアントやAI開発者との協力に大きな重点を置いています。Meta、Google、OpenAIはすべて、AI自動画像アプリケーションに使用するために、見えない統一された透かしタグを通じた相互運用性条約に同意しました。しかし、このような課題に対処する際、オープンソースコードなど、そのようなポリシーに依存しない可能性のあるソリューションの有効性に関する特定の疑問は、現時点でも残っています。

実際に本物となった最近のAI生成ディープフェイクの事例は、偽コンテンツに対する社会的恐怖に油を注ぐことになります。Metaのサービスは、偽コンテンツにラベルを付け、ユーザーがそのサイトで関与するコンテンツの整合性について本当に必要な情報のみを提供することで、これを解決することを目指しています。

ソーシャルメディアの巨人であるFacebookが、FacebookおよびInstagramでAI生成メディアにラベルを付けると明確にしたこの最近の発展は、ディープフェイクと誤情報によって植え付けられた恐怖に対する予防的な一歩として提示することができます。このアプローチによってすべての混乱を片付け、剥離された素材の使用から生じるすべての危険を中和し、表現の自由の原則を擁護することです。AIの発展の速さと偽ニュースの可変性という課題が依然として圧倒的であるにもかかわらず、AI起因の課題の緩和においてこれらの取り組みは著しく成功しています。