英国、AI 急増に伴いディープフェイク検出のために Microsoft を起用

英国は、オンライン上の AI 生成の欺瞞の規模に対する懸念が高まる中、Microsoft、学者、技術専門家と協力してディープフェイク検出システムを構築する計画を発表した。

このイニシアチブは、ディープフェイク、AI、英国、Microsoft、および検出システムを、ますますリアルで発見が困難になっている有害なコンテンツを抑制するための新しい取り組みの中心に据えている。

英国は詐欺と同意のない画像を対象としている

政府によると、このパートナーシップは、改ざんされたオーディオ、ビデオ、画像ファイルの検出装置を評価するための共有基準のセットを作成する ディープフェイク検出評価フレームワーク を開発する。

また、実際の使用例（詐欺となりすまし）ならびに児童の性的搾取の画像や動画に対する、これらの検出装置のベンチマークを提供する。

テクノロジー大臣の Liz Kendall は、このリスクが理論的に存在するだけでなく、現実のものであると警告した。

「ディープフェイクは犯罪者によって、一般大衆を欺き、女性や少女を搾取し、私たちが目にするものや耳にするものの信頼性を低下させるために使用されている。そして、市民や民主主義の機関を操作から保護するための措置を講じるまで、この行為は続くだろう。」

Kendall

メディアの改ざんは数十年にわたって存在してきた。しかし、専門家は、AI の発展により、高品質な 偽造 を制作するために必要な金銭とスキルが、これまでになくアクセスしやすくなっていると述べている。

英国では、AI によって生成される偽画像の数の急増の結果として、同意なく親密な画像を制作する犯罪行為に対する関心が高まっている。

政府データによると、2025 年にディープフェイクとして制作された偽画像は 800 万枚であり、2023 年の 50 万枚と比較して大幅に増加している。これは、人々がこれらのタイプの画像をいかに急速に作成しているかを示している。

このフレームワークは、法執行機関がこの犯罪を検出、防止、起訴できるようにし、業界に対して安全規制に関する明確な期待値を提供するために作成された。

これは政府が実施するよう促されている動きであり、Microsoft は 2024 年に AI 生成の ディープフェイク を標的とした新しい立法を可決するよう議会に呼びかけた。Microsoft の副会長兼プレジデントである Brad Smith は、立法府がディープフェイク技術の増大する脅威に対処する緊急性を強調した。

彼の ブログ投稿 で、Smith はディープフェイク詐欺に対処し、悪用を防ぐために法律を適応させることの重要性を強調した。Smith によると、ディープフェイクの詐欺や不正行為を起訴するために使用できる法令があるべきである。

Microsoft のレポートによると、ディープフェイク技術の誤用を防ぐためにいくつかの法的介入が可能である。一つのアプローチは、連邦レベルの「ディープフェイク詐欺法令」を作成することである。

規制を通じたプラットフォームへの圧力

世界中で規制当局は、AI 技術の急速な進歩に対応するのに苦労している。

英国では、通信を規制する機関（「通信規制当局」）とプライバシーを規制する機関（「プライバシー規制当局」）の両方が、同意なく作成された児童の性的画像を生成したとして、Elon Musk が運営する Grok チャットボット の調査を開始した。

この調査の一環として、2 つの規制機関は、法執行機関および規制機関が、法執行機関および規制機関が使用する検出ツールの評価方法について一貫した基準を確立することを支援するための新しいフレームワークの開発に取り組む。

Kendall によると、この新しいフレームワークの目的は、「人々がオンラインで目にするものや耳にするものへの信頼の回復を促進すること」であり、すべてのテクノロジープロバイダーが、AI 技術の加速する使用に関連する潜在的な害を軽減する責任を負うことを要求することである。