MetaのAIは、隠れた児童虐待リンクを検出するために広告がどこに誘導するかを確認するようになりました

Metaは今後、広告がユーザーをどこへ誘導するか、そして何を表示するかを確認します。 水曜日に新しいAIツールとともに発表されたこの動きは、FacebookやInstagramの外にホストされている児童性的虐待コンテンツへユーザーを静かに誘導する広告を対象としています。

Metaによれば、犯罪者たちが広告業界に進出しており、広告自体は無害に見えても、外部サイトへの違法なコンテンツへのリンクを含んでいる場合があります。

Metaは報告された広告の処理にとどまりませんでした。スキームを解明した後、同社はプラットフォーム全体で調査を拡大し、関連するアカウントを無効化し、オフプラットフォームのリンクをブロックしました。

レッドチームングエージェントがPhotoDNAに統合（2011以来使用）

Metaの新しい大規模言語モデルは、「サインポスト」と呼ばれるものを検出します。Metaはこの用語を、一見無害だが、メタのプラットフォーム外での違法コンテンツや有害な活動へと人々を密かに誘導していると強く疑われる広告コンテンツと説明しています。

AIを活用した広告コンテンツのスキャンにより、以前のシステムで見逃されていた搾取的素材の検出が強化されます。Metaは、調査が進むにつれてシグナルを追加し続けていると述べています。

レッドチームングAIエージェントは、Meta自身の防御体制に脆弱性がないか探りを入れ、新たな戦術が拡散する前にその実態を明らかにします。再犯者の検知能力の向上は、削除後に新規アカウントを作成する悪意あるアクターを対象としています。

Metaは2011年から自社のアプリでPhotoDNAによる写真・動画のマッチングを実施しており、Tech CoalitionのLanternプログラムを通じて他社にも画像および動画のハッシュを提供しています。

Metaは、ブロック済みリンクを含む広告、投稿、コメントを検索してそれらを削除します。ブロック済みリンクが含まれる広告はアップロード時に拒否されます。

プロアクティブな検出により、3,320万件の悪用アイテムのうち97%以上を検出

Meta は2026年1月から6月の期間中、FacebookとInstagramから世界中で3,320万件の児童性的搾取コンテンツを処理しました。その97%以上は誰からも報告される前に検出されました。

インドでは、同じ6ヶ月間で530万件が検出され、その98%以上が最初に捕捉されました。9月、メタは、インドサイバー犯罪調整センターが運営するインドの国家サイバー犯罪報告ポータルに、子供向けの安全関連ケースを直接送信すると発表しました。

これらのツールは、メタが裁判で子供の安全に関する主張を受けている時期に導入されました。8月、メタは29州との訴訟で最高180億ドルを支払う和解案を受け入れましたが、主張を認めることはありませんでした。

各州はMetaがInstagramとFacebookを設計して子供たちを依存症に陥れたと主張しました。Metaとの和解前のオークランド連邦裁判所での開廷陳述では、Metaは自社のアプリが子供たちを依存させるように設計されていないと主張し、Cryptopolitanが報じました。

EUの消費者団体BEUCは、Meta、Google、TikTokが5月に詐欺広告の削除を怠ったと非難し、Cryptopolitanが報じました。

メタはこれらの主張を一蹴し、2025年に1億5,900万件以上の詐欺広告を削除したと述べました。そのうち92%は、ユーザーからの報告前にすでに削除されていました。