AI テクノロジーがテロ組織による洗練されたプロパガンダを推進

軍事面で大きな打撃を受けているイスラム国の支持者たちは、洗練されたオンラインプロパガンダを生成するために人工知能（AI）をますます活用しています。 専門家は報告しています IS の支持者たちは、この技術を用いて、異なる言語で制作された AI 生成のニュース速報など、精巧なプロパガンダを制作できることを明らかにしました。

関連記事: AI を活用したボットがソーシャルメディアに誤情報を氾濫させています

具体事例として、アフガニスタンとパキスタンで活動するISの支部であるイスラム国ホラサン州 (ISKP) が挙げられます。5月17日にバミヤン州で発生し、スペイン人観光客3人を含む4人が死亡したISが犯行声明を出した攻撃の後、ISKPはAIニュースキャスターが登場する動画を公開しました。このキャスターはパシュト語を話し、現地の住民に似た外見で攻撃を解説し、グループがコンテンツの信憑性を高めるためにAIを活用していることを示しました。

IS系組織がAI生成のニュースキャスターを展開

また、別のAI制作動画では、仮想の男性アナウンサーが「アフガニスタンのカンダハールで発生した自動車爆弾攻撃はISによるもの」と述べていました。サイバーセキュリティ専門家ローランド・アビ・ナジェム氏は、これらのAI駆動ディープフェイク動画の効率性を強調し、ISは何年もハリウッド品質の制作を行っていると付け加えました。

「AIは今や、テキスト、写真、音声、動画の偽造コンテンツを作成するための簡単なツールを持っています。データ、アルゴリズム、計算力さえあれば、誰でも自宅やガレージからAI生成コンテンツを作成できます。」

ローランド・アビ・ナジェム

ISによるプロパガンダ目的でのAI利用は、3月22日にモスクワで発生したテロ事件（死者145名）から数日後に公式に開始されました。専門家は、この攻撃の報道に初めてAIニュースキャスターが使用されたこと、そしてこのグループがAIを通じて偽情報を拡散する手段に頼ったことを指摘しています。

AIコンテンツを通じた過激派の影響力拡大

国際的暴力過激主義研究センターの研究員であるモナ・タッカー氏は、IS支持者がキャラクター生成技術を利用していると述べています。

「これらの取り組みは他のユーザーから肯定的な反応を得ており、今後の協力的な努力により、多くの支持者がISのために、より長い時間、高品質で洗練されたグラフィックと革新的な手法を備えたAI駆動のプロパガンダ動画を制作できるようになる可能性があります。」

関連記事: 2024選挙におけるフェイクニュースとAIの戦いとは？

Thakkar氏も指摘したように、Telegram上でISを宣伝するメンバーは、AI画像生成ボットの使用を推奨しています。これらのボットは効果的かつ使いやすいため、チャンネルに高品質な画像を提供できるからです。この慣行は、AIが過激主義の効果を高め、結束力を強化するためのツールとしてますます利用されていることを示しています。

AIが影響力操作と募集を可能にする

同グループはシリアやイラクで相当な地盤を失いましたが、依然としてAIを活用して憎悪のメッセージを広め、強さの仮面を演じています。Najem氏の発言によると、AIの助けを借りてISはディープフェイク動画を作成し、特定の有名人やインフルエンサー、特に若者を組織への加入へと誘導することが可能です。

関連記事: AIがマネーロンダリング防止および対テロ対策の取り組みを革新

極端主義とテクノロジーに関するグローバル・ネットワークの研究者であるDaniel Siegel氏は、AIが過激派グループのオンラインでの影響力操作の性質を変えたと説明しました。

「アニメーションキャラクターやインターネットの有名人をフィーチャーした過激派の音声ディープフェイクナシェード（賛美歌）の戦略的な展開は、過激派がコンテンツの到達範囲を広げるために使用する戦術の洗練された進化を示しています。」

シール氏はまた、アルカイダやハマスなどの他のテロ組織も、支持者向けにコンテンツを生成するためにAIを利用しているとも述べています。このような過激派組織は、AI を活用してプロフェッショナルで翻訳済みかつ説得力のあるコンテンツを作成していますが、当局やテクノロジー大手はこれらの脅威に対抗する方法を見つける必要があります。

Cryptopolitan のレポート担当： ブレンド・カナナ