Meta、FacebookとInstagramでAI生成メディアにラベル付けへ

FacebookとInstagramの親会社であるMetaは、5月以降に制作された合成メディアへの手動タグの適用を停止すると発表した。こうした規制により、同社のメディアに対するディープフェイクや誤情報攻撃の負担を軽減できる可能性がある。.

誤情報への懸念への対応

Metaは、高まる批判と急速なAI技術の発展に対応し、合成コンテンツの拡散を抑制するための新たな措置を講じると予想されています。2024年5月以降、同社はテキスト、画像、音声、動画が人工知能（AI）を用いて作成または変更されたことを示す「Made with AI（AIで作成）」ラベルを導入します。.

MetaがAI生成コンテンツにタグを付けるという決定は、ユーザーに多くの情報を提供し、実質的に透明性を高めるための、同社による広範なキャンペーンの一環です。これはつまり、Facebookが偽造コンテンツを削除する立場にはない一方で、文脈を明確に示すラベルを付与することは可能になることを意味します。結局のところ、MetaのCEOであるマーク・ザッカーバーグは、同社が最終的に操作されたメディアの害悪に関する教育イニシアチブを立ち上げると述べています。これは、Facebookが委託した監督委員会の調査報告書にも記載されています。.

しかし、フェイクニュースキャンペーンに利用されるAI搭載アプリケーションが選挙プロセスへの干渉に利用される可能性があるという懸念もありました。委員会は緊急性を表明し、効果的な対策の緊急性を強調しました。特に選挙時期はどの国でも重要です。.

ロールアウト計画とポリシーの変更

このポリシー導入前に削除された、操作されたメディアは後日再び有効化され、Facebookのニュースコンテンツページで閲覧可能になります。新基準に基づきAIによって操作されたコンテンツは、ヘイトスピーチや投票干渉などのプラットフォームの他のルールに違反した場合にのみ削除されます。.

操作されたコンテンツに関する数多くの合意の一つとして、Metaは他のテクノロジー大手やAI開発者との協力に重点を置いています。Meta、Google、そしてOpenAIは、AI自動画像生成アプリケーションで使用する、目に見えない統合透かしタグを介した相互運用性に関する条約に合意しました。しかしながら、このような課題に対処する上で、こうしたソリューション、特にそのようなポリシーに依存しない可能性のあるオープンソースコードに関するソリューションの有効性については、現時点でも疑問が残ります。.

最近、AIによって生成されたディープフェイクが本物であることが判明した事例は、偽コンテンツに対する社会的な恐怖感をさらに煽ることになるだろう。Metaサービスは、偽コンテンツにラベルを付け、ユーザーがサイト上で閲覧するコンテンツの信頼性について本当に必要な情報のみを提供することで、この問題を解決することを目指している。.

ソーシャルメディア大手Facebookが、FacebookとInstagramの両方でAI生成メディアにラベルを付けると発表したこの最近の動きは、ディープフェイクや誤情報によって煽られる恐怖への予防措置と言えるでしょう。このアプローチによって、あらゆる残骸を一掃し、削除された素材の利用から生じるあらゆる危険を無効化し、言論の自由の原則を守ることが狙いです。AIの急速な発展とフェイクニュースの変わりやすい性質を考えると、この問題は依然として大きな問題となっていますが、これらの取り組みはAIに起因する課題を軽減する上で目覚ましい成功を収めています。.