イギリスの首相とロイヤルファミリーのAIディープフェイクがFacebookの暗号通貨詐欺で悪用される  

イギリスの首相Keir Starmer氏とウィリアム王子のAI生成動画が、FacebookとInstagramで暗号通貨詐欺の宣伝に使用されています。調査会社Fenimore Harperによると、7月初頭にStarmer氏を権力の座に就かせたイギリス選挙以降、『Immediate Edge』というプラットフォームを宣伝する250件以上の広告が宣伝されてきました。

新しい報告書で、Fenimore Harper氏は、Immediate Edgeがソーシャルメディア上の無防備なユーザーに対してディープフェイク広告を積極的に配信したと述べています。同社は、プラットフォームの広告がFacebookとInstagramで89万人に到達したと報告しました。さらに、Immediate Edgeはこれまでにこれらの広告に21,000ポンド（27,000ドル）を費やしたと報告しています。調査会社は、Metaの大規模言語モデルLlama 3.1.を使用して広告を発見しました。

この暗号通貨詐欺は、視聴者に金銭と個人情報を送るよう促しています  

Starmer氏とウィリアム王子のディープフェイク動画は、名前、電話番号、メールアドレスなどの個人データを追加することでアクセスできる「人生を変える機会」を約束しました。このキャンペーンは、イギリスの首相とウェールズ公が支援する新しいプラットフォームであるImmediate Edgeを宣伝し、1日最大1,000ポンドを稼ぐことができるとしています。

ユーザーが広告リンクをクリックすると、個人情報を入力するよう求められるランディングページに誘導されます。報告書によると、暗号通貨詐欺師はその後ユーザーに連絡し、偽のオンライン取引プラットフォームへの入金を行うよう促します。詐欺師は通常、偽のポートフォリオと取引利益を示して、人々を騙し、さらなる入金を行わせるのです。

Fenimore Harperは、Immediate Edgeの詐欺師がユーザーが資金を引き出すたびに姿を消したと詳細に述べています。

ある例では、Starmer氏のディープフェイクが次のように引用されています：

“あなたの人生はこれから変わります。私はKeir Starmer、イギリスの首相であり労働党の党首です。私はあなたを待っていました。今日はあなたのラッキーな日です。あなたがこのページにたどり着いた方法はわかりませんが、後悔することはないでしょう。

AIで作られた広告は、45人の個人が神秘的なプロジェクトを通じて「人生を変えるお金」を稼ぐために選ばれたと主張しています。この広告は、事前の知識や特別なスキルを必要とせず、1日1,000ポンド、週7,000ポンド、月27,000ポンドの収益を約束しています。また、「これは詐欺ではありません」と主張し、Starmer氏自身も視聴者から何も必要としていないとしています。

一部の広告は第三者を使用しながら、それがイギリス首相のイニシアチブであると引用していました。

ある広告では、ウィリアム王子のディープフェイクがプラットフォームを支持し、ロイヤルファミリーの支援を表明しています。それは次のように述べています。「皆様、イギリスの尊い市民の皆様、午後はお疲れ様です。私はウィリアム王子であり、ロイヤルファミリー一同がKeir Starmer首相のイニシアチブと彼の新しいプラットフォームを完全に支援していることを発表できることを嬉しく思います。

Fenimore Harperからの報告書によると、広告はこのイニシアチブが必要であり、市民の生活の改善に役立つと主張し、視聴者に参加して国のより良い未来を作り出すよう促しています。

FacebookとInstagramは暗号通貨詐欺広告との闘いを続けています 

報告書によると、暗号通貨に使用されるリンクの多くは現在機能しておらず、一部のディープフェイク広告はまだ稼働しているもののです。これらの広告はFacebookとInstagramの両方でスパム対策のレーダーにかからずにいました。Googleも暗号通貨詐欺をフラグ付けしませんでした。Immediate Edgeに関するGoogle検索では、ユーザーに対してこのプラットフォームは正規の取引ソフトウェアであると伝えられました。

Fenimore Harperの創設者であるMarcus Beard氏は、厳格な措置が取られない限り、誤情報は続くだろうと述べています。

「これらのキャンペーンは、今や著名人を容易に偽装し、前例のない速度でオンライン上の誤情報を拡散することができます」と、彼はイギリスの独立系新聞で報告されたように述べています。「これらは個人、公人、企業、そして私たちの民主主義にとって大きなリスクをもたらします。」

MetaとGoogleの両社は、プラットフォーム上の誤情報やAIディープフェイクの使用を容認していないと述べています。Metaのスポークスパーソンは、Starmer氏とウィリアム王子に関連する違法広告の大部分を削除したと説明しました。Googleは、「スパム対策システムは、スパマーの絶え間ない進化への試みにもかかわらず、Google検索を99%スパムフリーに保つのに役立っています」と説明しました。