Metaの監督委員会は、英国政治家のディープフェイク動画削除にあたり、より厳格なコンテンツポリシーを求めている。

Metaの監督委員会は、同社に対し、難民による性的暴力行為を支持しているかのように見せかけた、スコットランド労働党の地方議員のAI生成動画を削除しなければならないとの裁定を下した。. 

同社は当初、それをそのままにしておくことを決定したが、監督委員会はその決定を覆しただけでなく、Metaのディープフェイクへの対応はユーザーを欺瞞の危険にさらすと警告した。.

Metaはどの捏造動画を削除しなければならないのか？ 

2025年11月、スコットランドの地元労働党政治家の肖像を使用した動画がFacebookに投稿された。その動画では、その人物の肖像が「難民は歓迎される。たとえ彼らが我々の女性をレイプしたとしても。なぜなら白人も同じことをするからだ」と発言していた。

Metaの監督委員会は、 その描写はリアルではあるものの合成的だと評し、音声と彼女の表情が一致していないと指摘した。この動画は、極右反対デモに参加した市議会議員を含む数名の女性の写真も収められたアルバムの中から発見された。

2人の人物（うち1人は市議会議員本人）がMetaのいじめ・嫌がらせに関する規則に基づいてこの動画を通報したが、Metaのシステムはそれを人間の審査担当者に送ることはなく、2回の異議申し立て後も動画は削除されずに残った。. 

その後、3人目のユーザーがこの件を委員会に持ち込み、委員会が問題視した後も、Metaは動画は規則に違反しておらず、AIラベルを付ける必要はないと主張した。評議員は委員会に対し、この動画は「非常に衝撃maticだ」と述べた。 

委員会の過半数は、当該動画が難民全体を重大な犯罪行為や略奪的な性的行為で非難しているため、Metaのヘイト行為に関するポリシーに違反していると判断し、Metaが一部の難民のみを標的にしたという主張を退けた。委員会は当該動画を削除可能な誤情報とはみなさなかったものの、「高リスクAI」のラベルを付けるべきだったと述べた。.

理事会はメタ社に有利な一点については同意した。それは、いじめや嫌がらせに関する規則は解任を義務付けるものではないという点だ。なぜなら、選出された公職者は私人よりも保護される権利が少ない公人だからである。.

監督委員会はMetaに対してどのような勧告を行っていますか？

委員会はまた、月経衛生教育を推進する女性へのAI操作によるインタビューに関する2件目のケースにも介入した。委員会の介入を受け、Metaはいじめにあたるとして当該動画を削除した。. 

この2つの判決を受けて、委員会はメタ社の安全対策を「一貫して根本的に不十分」と評した。

理事会は し た。また、高リスクのAIコンテンツは収益化を停止したり、推奨表示順位を下げたり、削除したりすべきであり、繰り返し共有するユーザーには段階的に罰則を科すべきだと提言した。 

また、Metaに対し、AIによるものと思われるコンテンツが報告された場合は、優先的に人間の審査を行うこと、政治家に関する投稿を含め、AIラベルをどのくらいの頻度で適用しているかに関する年次データを公開すること、そして投票と国勢調査に関する規則を米国だけでなく世界的に適用するようにすることを求めている。Metaは委員会に対し60日以内に回答する必要がある。. 

世界中の政府やプラットフォームが、合成メディアに関する規制を強化している。例えば、中国最高人民法院は 9月7日、他人の顔や声のAIレプリカを許可なく作成または共有することは著作権侵害にあたるという 責任規定を定めた。また、 Cryptopolitan 報じた 、北京が今年初めに実施した「青浪」撲滅作戦の第一段階で、1万4000件以上のAI製品を別途削除したと 。

欧州連合の AI生成コンテンツの透明性に関する行動規範は、 プロバイダーに対しAIの出力にマークを付けることを、展開者に対しディープフェイクにラベルを付けることを義務付けている。 

Google PlayのAI生成コンテンツポリシーでは、 ユーザーが 同意なしにディープフェイクの性的コンテンツや、「明らかに欺瞞的または虚偽」な選挙コンテンツを投稿することを禁止しています。

Mediumでは、ごく一部のユーザーのみが非公開でAIを使った記事作成を許可されており、 プラットフォームはAIが生成した偽情報を 全面的に禁止している。