AIディープフェイクがネパールの3月5日の総選挙を脅かす

3月5日に迫ったネパールの総選挙を前に、ネパールの著名な政治家3人を起用した偽の映画で、AIが武器として利用されている実態が明らかになった。.

完全にコンピューターで生成されたこのビデオには、カトマンズの元市長バレンドラ・シャー氏、電力部門の元責任者クルマン・ギシン氏、そしてラシュトリヤ・スワタントラ党のリーダー、ラビ・ラミチャネ氏が一緒に歩いている様子が映っている。.

この動画がインターネットで拡散された際、新たな政治連携が生まれたのではないかと多くの人が考えました。しかし、この出会いは全てコンピューターで生成されたものだったため、3人の 政治家が 実際に会うことはありませんでした。

ソーシャルネットワークを通じて拡散する偽造音声

この偽動画は、選挙が近づくにつれネパールのデジタル空間に溢れかえっているAI生成コンテンツのほんの一例に過ぎない。今回の選挙は、若者たちが汚職撲滅を求めて起こした激しいデモからわずか 6か月後に 実施される。このデモによって当時のKPシャルマ・オリ首相は辞任に追い込まれ、ネパールの政治システムは混乱に陥った。

この信頼の危機の結果、著名人を狙ったデジタル偽造が横行している。ラシュトリヤ・スワタントラ党の副dent、スワニム・ワグレ氏は、ネパール警察サイバー局に告訴した。偽の音声テープは、ワグレ氏がインド首相と会談したという印象を与える目的で作成されたが、実際には会談は行われていない。.

ポインター研究所のファクトチェック活動が示すように、ネパールではこうした音声偽造が特有のリスクをもたらしている。音声メッセージは家族間のチャットグループやソーシャルメディアを通じて瞬く間に拡散し、受信者はその正当性を確認できないことが多い。音声改ざんを識別するためのツールの信頼性が低いdentから、一般の人々が虚偽と真実を見分ける手段は限られている。

政府によるこの問題への対応は、しばしば事態を悪化させてきた。Facebook、X、YouTubeは、規制当局への登録を怠ったため、9月のデモ期間中、当局によってブロックされた。.

この禁止措置は緊張を緩和するどころか、さらなる暴力行為を引き起こした。ロイター通信は、その後の混乱で少なくとも77人が死亡し、数千人が負傷したと報じている。当局は最終的に制限を解除したが、このdent 、強引なブロッキングがなぜ効果がないのかを浮き彫りにした。偽情報は、監視がより困難なチャネルへと流れていったのだ。.

ネパール選挙管理委員会は、政策を通じてこれらの課題に対処しようと試みてきた。2021年に策定された「 選挙管理におけるソーシャルメディア利用」では、初期的なガイドラインが示された。また、次期選挙に向けた新たな行動規範案では、有権者を惑わすことを目的とした虚偽情報や偽アカウントを明確に禁止している。

しかし、専門家は、生成型AIの時代に合わせてこれらの規則を早急に改訂する必要があると警告しています。未解決の疑問が残っています。合成メディアとは具体的に何を指すのでしょうか？キャンペーンはAIの支援を受けて作成されたコンテンツを開示すべきでしょうか？偽情報が拡散した場合、誰が責任を負うのでしょうか？

専門家は協調的な対応を求める

完璧な規制が整備されていないため、専門家や監視団体はより広範な解決策を求めています。ポインターなどのメディア組織は、いくつかの対策を推奨しています。報道機関とファクトチェッカーは、あらゆる拡散動画を犯罪のように調査し、その出所を trac、どのように検証したかを示すべきです。.

政党と候補者はディープフェイクを使用しないことを約束し、AIが作成したコンテンツには明確なラベルを貼るべきです。ソーシャルメディア企業は、ネパールの言語と政治に精通した迅速対応チームを設置すべきです。一般市民は、衝撃的な主張を共有する前に、立ち止まり、確認し、確認する「10秒トリアージ」のアプローチを取るべきです。.

ネパール警察サイバー局は、技術面でのより高度な攻撃への対策を既に準備している。同局の職員であるSPレイ氏は、「AIはますます規模が拡大し、様々な用途で利用されるようになっている。近い将来、AIによって容易になる犯罪やサイバー攻撃を目にするようになるかもしれない」と述べた。

レイ氏はまた、この技術が比較的新しいことが、ある程度の猶予期間を与えるかもしれないと指摘した。彼は、AI 技術は まだ黎明期にあり、一般に普及し始めたばかりなので、破壊の道具として使われるようになるまでにはもう少し時間がかかるだろうと考えている。

「我々はこうした犯罪や脅威と戦うための十分な装備を備えており、そうあるべきだ」とレイ氏は述べた。さらに、「ネパール警察はあらゆる行動を調査できる。調査に時間がかかるのは、外国からの攻撃だけだ」と付け加えた。