AIを活用したボットがソーシャルメディアに偽情報を氾濫させる

インターネットはほぼ毎月のように、何の努力も必要としない「一攫千金」の斬新なアイデアを提供している。多くの人が AIツール 。地方のニュースチャンネルはアンカーを投稿し、外務省はデジタル情報源を構築している。翻訳や文法チェックといった一般的で当然のこととは異なり、AIは私たちの生活に不可欠な要素となりつつあり、もはやAIとはほとんど結びつかない。

AI搭載ボットファームの発見

もう一つのニッチな分野があります。それは、完全にオリジナルの素材をゼロから生成することです。作成にはわずか20分、あるいは1分しかかかりません。AIプラットフォーム全体を活用して、動画の制作（または盗用された動画の処理）、テキストと音声 tracの作成、ステージング、そしてソーシャルネットワークへの投稿用の説明とハッシュタグの追加まで、わずか数秒で完了します。

こうしてソーシャルネットワークは徐々にAIのゴミ箱と化し、人々はそうしたツールを使って、人気が出れば収益につながるプロモーションビデオを制作したという妄想を enjようになる。あるいは、ロシアのプロパガンダメッセージを拡散し、問題における主導的な発言者となるほどにまで至る。

AI が偽の農場についてのメッセージにどのように貢献しているかを、 ボット ファーム して見ていきます。ここに、マリウポリ出身の地元出身のアナスタシア コジェフニコワがいます。彼女は現在、有名なロシアの YouTuber です。彼女の YouTube チャンネルの登録者数は 19 万人ですが、インターネットを賢く使用することで、母国で抑圧されている個人に発言権を与えることができるという良い例です。彼女は、「救世主としてのロシア」やマリウポリの破壊からの復興というロシアのプロパガンダ神話を広める人物として評判です。

しかし、彼女のプロフィールを離れると、話題に関する情報がほとんどないことに驚かされます。彼女は自分自身について探求し、いつもどんなことをvlogで取り上げているかを語っています。視聴者は、コミュニティ内に同様のネットワークが存在することをどのようにして知るのでしょうか？もしそれが、超人気ソーシャルメディアスターのYouTubeチャンネルへのリンクだったらどうでしょうか？組織の使命を示す写真付きのカードは十分にあり得ます。もっと豪華なカード番号があればなおさらです。一方で、購読を促すような魅力的な表現が少し欠けています。この点に関しては、各チャンネルは特化している可能性がありますが、私は多くのチャンネルが既に特化していることに気付きました。

AI偽情報の陰湿な拡散

同様に、高度なGoogle検索では、同じ説明を持つTikTokチャンネルdentメッセージが298件も表示されました。偶然にも、彼らの生活には共通点があります。これが、ロシア語の人工TikTokファーム内でスキャンを開始し、キャンペーンを1つ選択するために彼らが行ったことです。唯一の違いは、彼らが焦点を当てている主題です。 

「ロシアのプロパガンダ」で検索しても、「帝国の陰謀論」で検索しても、その種類は膨大です。同時に、レシピ、メカニックのヒント、ギアボックスの動画、子供向けの漫画、ブロガーなど、ロシアの墓地について語ったり、地元のスクラップの残骸から宝物を見つけたりといった情報も出てきます。これらは「オフラインのスター」のカテゴリーに分類されるしかありません。なぜなら、私たちが目にするのは後者の段ボールだけだからです。ちなみに、ロシアでは2022年3月から最近までメディア活動が制限されていました。例えば、最も人気のあるネットワークの一つであるTikTokは違法とみなされていました。

発見されたチャンネルのボットファームに作者に関する情報が一切ないことは、ここでも著作権侵害があったことを示唆しています。5月末までには、おそらく1,000万を超える数字が見られるでしょう。チャンネルの「いいね！」と視聴回数は既に6ヶ月間続いています。しかし、この仮想ファンタジーの世界に深く入り込むほど、偽物や実在しないコンテンツが溢れかえるでしょう。今回のケースでは、ロシアはこれを情報戦に利用するでしょう。ロシアのボットとボットファームは通常、ソーシャルメディアで人気のメッセージを複製して繰り返し使用するため、ソーシャルメディアのアルゴリズムによる検出が容易になります。

の利用は AI 、より大きな課題となるだろう。AIは、「インターネットの死の空間を飛ぶ」というキャッチフレーズを掲げる反体制運動の名称を掲げることになるだろう。この運動は、現代ではオンライン上に本物の人間は存在しないと主張している。そして、新たな調査によると、昨年のオンライントラフィックの大部分、50%以上がボットによるものだったことが明らかになった。