AIディープフェイクがネパルの次期5回選挙を脅かす

3月5日の国の緊急総選挙を前に、ネパルの3人の著名な政治家が登場する偽の映画が、AIがどのように兵器として使用されているかを明らかにした。

この動画は完全にコンピュータ生成であり、カトマンズの元市長であるBalendra Shah氏、電力セクターの元責任者であるKulman Ghising氏、そしてRastriya Swatantra PartyのリーダーであるRabi Lamichhane氏が一緒に歩いている様子を描写していた。

動画がインターネット上でバイラルになったとき、多くの人が新たな政治的連合の出現を信じていた。しかし、この遭遇全体がコンピュータ生成であったため、3人の政治家は実際に会ったことがない。

音声の偽造はソーシャル ネットワーク

偽の動画は、投票が近づくなか、ネパルのデジタル空間を飽和させつつあるAI製造コンテンツの単なる一例を表している。選挙は、腐敗の終結を求める若者たちによる暴力的なデモからわずか6ヶ月後に行われる。これらの抗議活動により、当時の首相であるK.P.シャルマ・オリ氏が辞任に追い込まれ、国の政治システムは混乱に陥った。

この信頼性の危機の結果、著名な個人を対象としたデジタル偽造物が繁栄している。Rastriya Swatantra Partyの副議長であるSwarnim Wagle氏は、ネパル警察サイバー局に苦情を申し立てた。彼はインドの首相と議論を行ったという印象を与える偽の音声テープが作成され、そのような議論は実際には行われなかった。

これらの音声の偽造物は、Poynterのファクトチェック活動が示すように、ネパルにおいて特有のリスクをもたらす。音声メッセージは家族のチャットグループやソーシャルメディアを通じて急速に広まり、しばしばその正当性を確認できない受信者に届く。改ざんされた音声を識別するために使用されるツールの信頼性の低さにより、一般の人々は虚偽と真実を見分ける手段が限られている。

政府による問題の制御への試みは、しばしば事態を悪化させてきた。9月のデモの間、当局は規制当局への登録を怠ったため、Facebook、X、YouTubeを遮断した。

この禁止令は緊張を鎮めるのではなく、より多くの暴力を引き起こした。ロイター通信は、その後の混乱の中で少なくとも77人の死亡と数千の負傷を記録した。当局は最終的に制限を解除したが、この出来事は強引な遮断が機能しない理由を示した。偽情報は単により監視が難しいチャネルへ移動しただけである。

ネパルの選挙管理委員会は、政策を通じてこれらの課題に対処しようとしている。彼らの2021年の「選挙管理におけるソーシャルメディアの使用方法に関する政策」は初期のガイドラインを設定した。今後の選挙のための新しい行動規範の草案は、有権者を揺さぶることを意図した虚偽情報や偽アカウントを具体的に禁止している。

しかし、専門家は、これらの規則が生成AIの時代のために直ちに更新される必要があると警告している。未解決の質問が残っている：合成メディアの正確な定義は何なのか？キャンペーンはAIの支援で作成されたコンテンツを開示すべきか？偽情報が拡散された場合、誰が責任を負うのか？

専門家たちは協調的な 米国が抱える広範かつ継続的な貿易不均衡による国家緊急事態に対する

完璧な規制が整っていないため、専門家や監視グループはより広範な解決策を求めている。Poynterや類似のメディア組織はいくつかのステップを推奨している：ニュース組織やファクトチェッカーは、犯罪のように毎日のバイラル動画を調査し、その起源を追跡し、どのように検証したかを示すべきである。

政治政党と候補者は、ディープフェイクを使用しないことを約束し、AIで作成された素材を明確にラベル付けすべきである。ソーシャルメディア企業は、ネパルの言語と政治に精通した迅速対応チームを設立すべきである。一般市民は、衝撃的な主張を共有する前に、立ち止まり、確認し、検証する「10秒間のトリアージ」アプローチを取るべきである。

ネパル警察サイバー局は、技術面でのより高度な攻撃にすでに備えている。局の公式であるSP Ray氏は、「AIは大きくなり、より多くの方法で使用されている。やがて、AIが容易にする犯罪やサイバー攻撃を目にするようになるだろう」と語った。

Ray氏はまた、技術の比較的新しさがいくつかの余裕を提供し得ると指摘した。彼はAI技術がまだ初期段階にあり、一般大衆によって採用され始めたばかりなので、破壊の道具として使用されるまでに少し時間がかかるかもしれないと信じている。

「私たちはこれらの犯罪や脅威と戦うために十分に装備されており、そうあるべきだ」とRay氏は語った。彼は安心させるために、「ネパル警察はあらゆる行動を調査できる。調査に時間がかかるのは、外国の領土からの攻撃のみだ」と付け加えた。