AI関連の新たな詐欺が表面化しており、AIが生成した何千人ものインフルエンサーが、実在の人物から盗んだ画像を使ってInstagramなどのソーシャルサイトに殺到している。.
この詐欺には、実際のモデルやアダルトコンテンツ制作者からビデオを盗み、AI生成の顔を与え、Patreon、OnlyFansコンテスト、さまざまなAIアプリなどの出会い系サイトへのリンクを付けて彼らの体を収益化することが含まれます。.
AIが生み出したインフルエンサーがインスタグラムで人間と競争
4月、 404 Mediaが この行為が初めて表面化した際に初めて報じました。この行為は今や一般的なトレンドへと成長し、Metaが運営するソーシャルメディアはプラットフォーム上でこのトレンドを止めることができない、あるいは止める意志がないのではないかと多くの人が推測しています。
これは、Instagram 上の人間のコンテンツ クリエイターたちが、AI コンテンツとの競争が自分たちの存続に影響を及ぼしていると述べていることと同時期に起こった。.
Apple App StoreやGoogle Playストアで提供されている市販のAIツールやアプリを使えば、AIインフルエンサーは簡単にアカウントを作成し、収益化することができます。Wiredによると、同誌はAIによって生成された1,000以上のInstagramアカウントと、こうしたコンテンツを作成する人々がヒントを共有したり戦略を議論したりするDiscordチャンネル、そして「AIピンプ」で収益を上げる方法を解説する複数のガイドを検証しました。.
Wired は 、インスタグラムでは以前は軽微だったこの問題が、AI が生成したコンテンツが人間のコンテンツを上回るという将来のソーシャルメディアの状況に関するいくつかの予測と一致して、大きな慣習にまで拡大していることを突き止めました。
Instagramで作品を宣伝するアダルトコンテンツクリエイターたちは、アダルトコンテンツクリエイターやInstagramモデルから盗んだ写真や動画を使用することが多いこれらのAI模倣アカウントと直接競合することを懸念している。.
エレナ・セント・ジェームズ 氏は、インスタグラムのアルゴリズムに他にも変更があった可能性があり、それが影響しているかもしれないとしながらも、インスタグラム上でAIが生成したインフルエンサーアカウントが爆発的に増加して以来、彼女の「リーチは劇的に減少した」と述べた。以前は月間100万～500万回の視聴回数を記録していたが、ここ10ヶ月間は100万回を超えることはなく、時には50万回を下回ることもあるという。
「おそらくこれが、私の視聴回数が減っている理由の一つでしょう。不自然なものと競争しているからです。」セント・ジェームズ.
アレクシオス・マンツァリス氏 コーネル工科大学のセキュリティ、信頼、安全性イニシアチブのディレクターであり、以前はGoogleの信頼と安全性インテリジェンスのプリンシパルであった
マンツァリス氏は、これはAI技術とソーシャルメディアプラットフォームへの導入に関して以前になされた予測を単に実現しただけであり、まったく新しいことや驚くべきことではないと述べた。.
「これは、5年後のソーシャルメディアがどのようなものになるかを示す兆候のように感じました」とマンツァリス氏は語った。.
「これは、Instagramの魅力的な人々というtracな層だけでなく、インターネットの他の部分にも起こる可能性があります。これは、事態がかなり悪化する兆候かもしれません。」
マンツァリス。.
AIが生成した1,000以上のインスタグラムのインフルエンサーアカウントのうち、少なくとも100には、主にモデルやアダルトエンターテインメント出演者の既存の動画の顔をAI生成の顔に置き換え、動画に新鮮な印象を与えるディープフェイクコンテンツが含まれていた。.
動画は、AI 生成インフルエンサーが共有する他の AI 生成画像や動画と一致する、新しいオリジナル コンテンツのように見えます。.
Instagramは苦情を受けて行動します
Instagramは 、アカウントの所有者または代理人からの報告があった場合にのみ措置を講じるとしている。しかし、多くのインフルエンサーは、フォローすべきなりすましアカウントが多すぎるため、提供された手段が機能していないと述べている。
セント・ジェームズ氏は、AIが生成したこれらのインフルエンサーアカウントの多くが私によって運営されているという事実が、さらに傷口に塩を塗っていると付け加えた。.
「私たち女性は、この世界では収入が少ない。多くの点で不利な立場にある。私たちが有利な立場にあるのは、インフルエンサーやモデルの仕事くらいで、それは単なる付加価値に過ぎない」とセント・ジェームズは語った。.
「男が女のふりをして金を稼いでいるなんて、ちょっとおかしい気がする」と彼女は付け加えた。.
アップルは、無害な用途にも使えるが、同意のないコンテンツを作成するために悪用されることが多い顔交換アプリの「二重利用」問題をこれまで解決できておらず、この問題について質問を受けた後、App Storeから当該アプリを削除した。
