AI生成インフルエンサーがInstagramや他のプラットフォームに盗まれたアイデンティティで溢れる

新しいAI関連の詐欺が浮上しており、数千のAI生成インフルエンサーが、実在する人物の盗まれた画像を使用してInstagramなどのソーシャルサイトに溢れています。

この詐欺には、実在するモデルや成人向けコンテンツクリエーターからのビデオを盗み、AI生成の顔を与え、例えばPatreon、OnlyFansのコンテスト、およびさまざまなAIアプリへのリンクを通じてその身体を収益化することが含まれます。

AI生成インフルエンサーがInstagramで人間と競争

4月、404 Mediaはこの慣行が最初に浮上した際に、この慣行を最初に報告しました。この慣行は今や人気のあるトレンドに成長し、Metaが運営するソーシャルメディアが、そのプラットフォーム上のこの見かけ上のトレンドを停止できないか、または停止する意志がないと多くの人が想定するに至っています。

これは、Instagram上の人間のコンテンツクリエーターが、今や彼らの存続可能性に影響を与えている方法でAIコンテンツと競争しているという状況でのことです。

Apple App StoreとGoogle Play Storeでホストされている市販のAIツールやアプリの一部により、AIインフルエンサーは今や簡単にアカウントを作成し、収益化することができます。Wiredによると、彼らはAIによって生成された1,000以上のInstagramアカウントと、このコンテンツを作成する人々がヒントを共有し、戦略を議論し、「AIピンプ（人身売買）」を通じてお金を稼ぐ方法を説明するいくつかのガイドが共有されているDiscordチャンネルをレビューしました。

Wiredは、以前はInstagramで軽微だった問題が、AI生成コンテンツが人間のコンテンツを上回るという将来のソーシャルメディアの展望に関するいくつかの予測と一致して、巨大な慣行に成長したことを発見しました。

Instagramで作品を宣伝する成人向けコンテンツクリエーターは、これらのAIコピーアカウントと直接競争することに懸念を抱いています。これらのアカウントの多くは、成人向けコンテンツクリエーターやInstagramモデルから盗まれた写真やビデオを使用しています。

Elaina St James成人向けコンテンツクリエーターは、Instagramのアルゴリズムの変更がこの原因となった可能性はあるものの、Instagram上でAI生成インフルエンサーアカウントが爆発的に増加して以来、彼女の「リーチは劇的に減少した」と語っています。通常月間100万〜500万ビューだったものが、過去10ヶ月間は100万ビューに達せず、時には50万ビュー未満になることもあります。

「これが私のビューが減少している理由の一つかもしれません。それは、私が不自然なものと競争しているからです。」St James。

Alexios MantzarlisCornell Techのセキュリティ、信頼、安全イニシアチブのディレクターであり、元Googleの信頼と安全インテリジェンスのプリンシパルは、404 Mediaの研究における約900のアカウントのリストを作成しました。

ソーシャルメディアが短期間でどのような姿になるかを示す兆候

Mantzarlisは、これは全く新しいものでも驚くべきものではなく、以前にAI技術とそのソーシャルメディアプラットフォームでの採用に関する予測を満たすものだと述べています。

「これは、5年後のソーシャルメディアがどのような姿になるかを示す可能性のある兆候のように感じました」とMantzarlisは言いました。

「これは、Instagramの魅力的な人々のニッチだけでなく、インターネットの他の部分にも到来する可能性があります。これは、それがかなり悪くなる兆候かもしれません。」

Mantzarlis。

1,000以上のAI生成Instagramインフルエンサーアカウントのうち、少なくとも100のアカウントには、既存のビデオ（通常はモデルや成人エンターテインメントパフォーマーのもの）を取り込み、AI生成の顔に置き換えてビデオに新鮮な見た目を与えたディープフェイクコンテンツが含まれていました。

これらのビデオは、AI生成インフルエンサーによって共有される他のAI生成画像やビデオと一貫性のある、新しいオリジナルコンテンツのように見えます。

Instagramは苦情を受け取ると行動します

Instagramは、アカウントが正しい所有者またはその代わりに報告を許可された人物によって報告された場合にのみ、アカウントに対して行動を取ると述べています。しかし、多くの人間のインフルエンサーは、なりすましアカウントが多すぎて追跡できないため、提供されたチャネルが機能していないと語っています。

St Jamesは、これらのAI生成インフルエンサーアカウントの多くが私によって運営されているという事実は、追い打ちをかけることだと付け加えました。

「私たち女性は世界でより少ない収入を得ています。多くの面で不利な立場にあります。私たちが優位性を持っている世界の領域の一つは、インフルエンサーやモデルリングの分野なので、これは単なる追加の層です」とSt Jamesは言いました。

「男性が女性になりすましてお金を稼いでいるという事実は、少し腹立たしく感じます」と彼女は付け加えました。

Appleは、無害に使用できるが非同意のコンテンツ作成に頻繁に使用される顔入れ替えアプリの「デュアルユース」問題を解決することにこれまで失敗しており、この問題について質問を受けた後、App Storeから削除しました。