AI を活用したボットがソーシャルメディアに誤情報を氾濫させています

ほぼ毎月、インターネットには努力を必要としない「金持ちになる」ための新しい創造的なアイデアが提供されます。多くの人々はAIツールを採用して業務を改善し、より良いリターンを得ています。地方のニュースチャンネルはアナウンサーを配信し、外務省はデジタルソースを構築しています。翻訳や文法チェックのような一般的で期待されるものとは異なり、それは私たちの生活に不可欠な要素となりつつあり、もはやAIとはほとんど関連付けられていません。

AI搭載ボットファームの解明

もう一つのニッチは、ゼロから完全にオリジナルな素材を生成することです。それを作成するには、わずか20分、あるいは1分もかかりません。AIプラットフォーム全体を使用して、ビデオの生成（または盗まれたビデオの処理）、テキストやオーディオトラックの作成、すべてのステージング、そしてソーシャルネットワークへの公開のための説明やハッシュタグの追加を、わずか数秒で行います。

したがって、ソーシャルネットワークは徐々にAIのごみ箱となり、そのようなツールは、誰もが人気になり収益を生む可能性のあるプロモーションビデオを作成したという喜びを楽しむことを可能にします。あるいは、彼らはロシアのプロパガンダメッセージを拡散し、それがその問題における支配的な声になるまで続けます。

ボットファームの例を用いて、AIがフェイクファームに関するメッセージにどのように貢献するかを見てみましょう。このファームは300のチャンネルで構成され、ロシアまたはベラルーシ起源のYouTubeチャンネルからAIを使用してビデオを処理および生成しました。ここはマリウポリ出身の地元出身者、アナスタシア・コジェヴニコワで、現在は有名なロシアのYouTuberです。YouTubeチャンネルの購読者はわずか19万人ですが、彼女は、インターネットの賢明な使用が、母国で抑圧された個人に声を届けることができるという良い例です。彼女は「ロシアは救世主」というロシアのプロパガンダ神話の拡散者として、そして破壊からのマリウポリの復興に関する良い評判を持っています。

それでも、彼女のプロフィールを離れると、議論されている主題に関する情報の欠如に驚かされます。彼女は自分が誰であるかを探索し、彼らがいつもブログで話していることについて話します。視聴者は、コミュニティ内に他の類似したネットワークが存在することをどのようにして知るのでしょうか？もしそれが超有名なソーシャルメディアスターのYouTubeチャンネルへのリンクであればどうでしょうか？組織のミッションの写真が描かれたカードも考えられます。もっと generous なカード番号もあるかもしれません。対照的に、サブスクリプションへのインセンティブとなる魅力的な表現の欠如があります。この点に関連して、各チャンネルは専門化されている可能性があります。しかし、私はそのようなチャンネルの多くがすでにそれを持っていることを発見しました。

AIディストーションの隠れた拡散

同様に、洗練されたGoogle検索は、同じ説明を持つ298のTikTokチャンネルの識別メッセージを生成しました。彼らの人生には類似点があることがわかります。これが、ロシア語の人工TikTokファーム内で1つのキャンペーンをスキャンして選択するために彼らが始めたことです。彼らを異なるものにしている唯一のことは、彼らが焦点を当てる主題です。 

「ロシアのプロパガンダ」や「帝国主義の陰謀論」を検索すると、その品揃えは膨大です。同時に、レシピ、メカニックのヒント、ギアヘッドのビデオ、子供向けのアニメ、ブロガーなどは、ロシアの墓地について語ったり、地元のスクラップメタルの瓦礫の中で宝を探したりします。これらは「オフラインのスター」カテゴリーにグループ化される可能性がありますが、後者は私たちが遭遇する唯一のカードボードです。2022年3月から最近まで、ロシアではメディア活動が制限されていたことに言及する価値があります。例えば、最も人気のあるネットワークの一つであるTikTokは違法と見なされていました。

発見されたステーションのファームに関する著者情報の欠如は、ここで海賊版に遭遇したことを再び示唆しています。5月末までに、おそらく1000万以上の数字を目にするでしょう。チャンネルのいいね数や、さらに多くの視聴回数はすでに6ヶ月存在しています。しかし、この仮想のファンタジーワールドに深く入り込むほど、偽物や存在しないコンテンツが豊富になります。この場合、ロシアはそれを情報戦争で利用します。ロシアのボットやボットファームは通常、ソーシャルメディア上の人気メッセージを複製して再生成するため、ソーシャルメディアのアルゴリズムによって検出されやすくなります。

ソーシャルプラットフォーム向けのAI機能の使用は、より大きな課題を表します。彼らは、「インターネットの死んだ空間を飛ぶ」というキャッチフレーズを持つカウンタームーブメントの名前をディスプレイに表示します。これは、現在オンラインには本当の人間がいないという主張です。最新の研究では、昨年のオンライントラフィックの50%以上がボットによって作成されたことが示されています。