パキスタンの元首相、投獄中にAIを使用してキャンペーン演説を行う

パキスタンの元首相Imran Khan氏が、投獄中にAI技術を使用して支持者に向けて演説を行ったと報じられています。

報道によると、Khan氏の政治政党であるTehreek-e-Insaf（PTI）は、投獄された政治家の音声録音を生成するためにAI技術を使用しました。Khan氏の写真と組み合わされた音声録音は、2月に開催予定の総選挙を前に日曜日に開催された政党のバーチャルラリで流されました。

Khan氏がAIを使用して政党のキャンペーンを行う 

「私の同胞のパキスタン人の方々、まず、この歴史的な試みに対して私のソーシャルメディアチームを称賛したいと思います。」AI生成の音声は語りました。「おそらく、刑務所での私の状況について疑問に思っているかもしれません…真の自由への私の決意は強いです。」

音声は続きました。「私たちの政党は公の集会を開催することを許可されていません。[…] 私たちの人々は拉致され、その家族は嫌がらせを受けています。」

このラリは全国規模で巨大な聴衆を集め、X/Twitter、Facebook、Instagram、YouTubeを含むソーシャルメディアプラットフォーム nationwide の混乱を報告するほどでした。 

一方、Khan氏の政党は、国の国営通信規制当局が混乱の原因であると非難し、政党のラリに干渉するために意図的にサービスを配布したと主張しました。

「これは、Imran KhanのPTIの前例のない人気に対する恐怖の証拠です！予想された動きとして、不正でファシスト的な政権は、PTIの歴史的なバーチャル・ジャルサ（公の集会）の前に、パキスタン全土でインターネット速度を低下させ、ソーシャルメディアプラットフォームを混乱させました。」と、政党が発行した声明に書かれています。 

Khan氏のAI音声クローンの影響

Khan氏は、国際クリケットスターから政治家へと転身し、2022年8月5日に3年の刑を宣告されました。彼は2018年から2022年までの在任中に受け取った贈り物を売却して得た収入を申告しなかったという腐敗の罪で有罪となりました。

Imran Khanの演説にAIが使用されたことは、広範な影響を持つ興味深いケーススタディを示しています。これはアクセスの増加や新たなコミュニケーション戦略の機会を提供しますが、間違った手に渡った場合の潜在的な操作に関する重要な懸念も提起します。 

AIボイスクローンは、まず録音を通じて人物の声を取得することから始まります。その後、録音された音声を使用してAIモデルをトレーニングし、ピッチ、トーン、アクセントなど、その声特有の特徴を学習させます。 

モデルのトレーニングが完了すると、元の声とほぼ同じように聞こえる新しい発話を生成するために使用できます。