英国選挙監視団体、AI生成ディープフェイクへの無力さを警告

英国の選挙監視機関は、「ディープフェイク」コンテンツに対抗する能力がないため、英国は今後の選挙でAIが生成した政治家の偽動画による破壊的な影響を受けやすいと警告した。.

英国の選挙監視機関は、深刻化する「ディープフェイク」コンテンツの脅威への対応における権限の不足を露呈し、厳しい警告を発した。この不穏な事実は、AI生成のフェイク動画による選挙プロセスの不正操作に対する英国の脆弱性を露呈している。.

人工知能（AI）の専門家は、AIが生成した政治家の「ディープフェイク」音声・動画によって、英国の次期選挙が左右される可能性があると警告している。この技術は、民主主義プロセスの完全性に重大なリスクをもたらす。.

最近のディープdent事件

ここ数ヶ月、特に労働党内の政治家を標的とした、AIによって生成された説得力のあるディープフェイクコンテンツが注目を集めています。10月初旬には、Twitter/Xアカウントが、労働党党首のキール・スターマー卿が党員を侮辱する発言をしていると思われる音声を投稿しました。その後、ロンドン労働党のサディク・カーン市長が追悼式典に敬意を払っていないように見えるディープフェイク音声クリップが投稿されました。.

政治家を巻き込んだディープフェイク動画や音声の法的地位は依然として不透明である。オンライン安全法の新たな悪質なコミュニケーション対策に該当する可能性もあるものの、当局はこうしたコンテンツへの対応に課題を抱えている。特にロンドン警視庁は、サディク・カーンのディープフェイク動画は刑事犯罪に当たらないとし、捜査を打ち切った。

AIが生み出した誤情報が拡散する懸念

専門家は、次回の選挙に向けて、AIが生成した政治家の偽動画が拡散する可能性があると懸念している。著名人がスキャンダラスな発言や行動をした、説得力のある偽動画の制作が容易かつ低コストになったため、こうした介入はますます容易になっている。多くの専門家は、敵対的な国家主体が新興技術を悪用して英国の選挙に影響を与え、民主主義のプロセスを混乱させる可能性があると予測している。.

2023年11月以降、選挙運動資料には、オンライン上の特定の政治コンテンツの発行者を示す「インプリント」を含めることが義務付けられています。しかし、コンテンツがAI生成コンテンツであるかどうかを開示する義務はなく、選挙管理委員会には誤情報を制裁または削除する権限がありません。この分野ではOfcom（オフコム）がより多くの規制権限を有していますが、AI生成の政治的誤情報やディープフェイクに関する法的枠組みは依然として曖昧です。.

選挙管理委員会の限定的な権限

選挙管理委員会は、ディープフェイクと選挙運動資料コンテンツへの対処における役割を明確にし、政党と選挙運動員の資金管理とデジタルインプリント要件の遵守確保を主な責務とすると述べた。選挙管理委員会はAI生成コンテンツがもたらす課題を認識しているものの、ディープフェイク関連の問題に直接対処する権限は有していない。.

委員会は、パートナーや他の規制当局と積極的に連携し、選挙におけるAI技術がもたらす機会と課題をより深く理解しようと努めています。また、有権者に対し、オンライン情報を批判的に評価するよう促し、フェイクニュースをdentためのガイダンスを提供するとともに、懸念事項を関係規制当局に報告しています。.

規制権限の強化を求める

現行規制の限界を認識し、選挙管理委員会は英国政府に対し、委員会自身を含む英国の規制当局の権限強化を提唱しています。具体的には、ソーシャルメディアプラットフォーム、テクノロジー企業、オンライン決済サービスプロバイダーから情報を取得する権限の拡大を求めています。この取り組みは、政治的な誤情報キャンペーンの資金源をdent、この問題の重要な側面に対処することを目的としています。.

テクノロジー大手の反応

Byline Timesは、複数のテクノロジー大手企業に連絡を取り、有害な政治的ディープフェイクに対抗するための方針と対策について問い合わせました。例えばTikTokは、あらゆる政治広告を禁止し、リアルなシーンを模倣した合成メディアや操作されたコンテンツについては明確な開示を求めています。また、TikTokは誤情報に対しても厳格なポリシーを維持しています。.

Google/Alphabetは、誤情報対策への継続的な取り組みと、AI生成コンテンツを識別するための透かし技術の実験を強調しました。Googleは、AI生成画像に目に見えないデジタル透かしを埋め込むことで真正性を検証するツール「SynthID」を発表しました。.

Googleはまた、合成音声を99%近くの精度で検出する技術の進歩を強調し、政治コンテンツに関するポリシーを更新する計画を明らかにしました。この更新により、認証済みの選挙広告主は、広告内で画像、動画、音声を含む合成コンテンツを明確に開示することが義務付けられます。.

Google傘下のYouTubeは、視聴者を誤解させ、甚大な被害をもたらすリスクのある「技術的に操作されたコンテンツ」に対して厳格なポリシーを定めています。YouTubeはまた、クリエイターに対し、リアルに見えるように改変または合成されたコンテンツを制作した場合、その旨を開示するよう義務付けます。.

AIが生成する誤情報の課題とリスク

AI生成のディープフェイクコンテンツに伴う主なリスクは、実際には起こっていない出来事や、実際には起こっていない発言や行動をした人物を描写する、説得力のある動画が作成されることです。このリスクは、選挙運動という文脈において特に深刻化します。選挙運動においては、こうした誤解を招くコンテンツによって世論が左右される可能性があるからです。.

Meta/FacebookとTwitterの反応

Meta/Facebookは、政治的ディープフェイクへの対応に関する方針や対策に関する問い合わせに回答しなかった。Twitter/Xは自動返信で回答し、この問題に関する立場や行動についてこれ以上の詳細は明らかにしなかった。.

AI生成のディープフェイクの脅威が英国の民主主義プロセスに迫る中、英国はこの欺瞞的なコンテンツの拡散を効果的に規制し、阻止するという重大な課題に直面しています。ディープフェイク対策の実施に大手テクノロジー企業が関与していることは、選挙の公正性と民主主義的言説を守るために、この問題への緊急性を浮き彫りにしています。.