AIの急増を受け、英国はディープフェイク検出にマイクロソフトを採用

英国は、AIがネット上で生成する偽情報の規模に対する懸念が高まる中、マイクロソフトや学者、技術専門家らと協力し、ディープフェイク検出システムを構築する計画を発表した。.

この取り組みは、ますますリアルになり、見分けるのが難しくなっている有害なコンテンツを抑制するための新たな取り組みの中心に、ディープフェイク、AI、英国、マイクロソフト、検出システムを据えている。.

英国は詐欺や合意のない画像をターゲットにしている

政府によれば、このパートナーシップでは ディープフェイク検出評価フレームワーク、改ざんされた音声、動画、画像ファイルの回路検出装置を評価するための一連の共通基準が作成される予定だ。

また、実際の使用例（詐欺やなりすまし）や児童の性的搾取の画像やビデオに対して、これらのタイプの検出デバイスのベンチマークを提供します。.

リズ・ケンドール技術大臣は、このリスクは理論上だけに存在するのではないと警告した。.

「ディープフェイクは犯罪者によって、国民を欺き、女性や少女を搾取し、私たちが見聞きする情報の信頼性を低下させるために利用されています。市民と民主主義制度を操作から守るための対策を講じない限り、この状況は続くでしょう。」

ケンドール

を制作するために必要な資金と技術は、 偽造品 かつてないほど容易に入手できるようになっています。

英国では、AIによって生成される偽画像の数が急増したことが直接の要因となり、同意なしに親密な画像を生成する犯罪行為に注目が集まっています。.

政府のデータによると、ディープフェイクとして作成された偽の画像は2025年には800万枚でしたが、2023年にはわずか50万枚にまで減少しました。これは、人々がいかに急速にこの種の画像を作成しているかを示しています。.

この枠組みは、法執行機関がこの犯罪を検出、防止、起訴できるようにし、業界に安全規制に関する明確な一連の期待を提供するために作成されました。.

これは各国政府に強く求められている措置であり、マイクロソフトは2024年に議会に対し、AI生成の ディープフェイクブラッド・スミス氏は、dent ディープフェイク技術の脅威の高まりに対処するため、議員の緊急性を強調しました。

で ブログ記事、ディープフェイク詐欺に対処し、悪用を防ぐために法律を改正することの重要性を強調しました。スミス氏によると、ディープフェイクを使った詐欺や不正行為を訴追できる法律が必要だとのことです。

マイクロソフトの報告書によると、ディープフェイク技術の悪用を防ぐために、いくつかの法的介入策が講じられる可能性がある。その一つとして、連邦法に基づく「ディープフェイク詐欺法」の制定が提案されている。

規制を通じてプラットフォームに圧力をかける

世界中で規制当局は AI 技術の急速な進歩に対応するのに苦労しています。.

英国では、通信規制機関（「通信規制機関」）とプライバシー規制機関（「プライバシー規制機関」）の両方が、 チャットボット「Grok。これは、このチャットボットが子供たちの同意なしに性的な画像を生成したためである。

この調査の一環として、2 つの規制機関は協力して、法執行機関と規制機関が使用する検出ツールを評価する方法に関する一貫した基準を確立できるよう支援する新しい枠組みを開発する予定です。.

ケンドール氏によると、この新しい枠組みの目的は「人々がオンラインで見たり聞いたりするものに対する信頼の回復を促進すること」と、AI技術の加速する使用に関連する潜在的な危害を軽減する責任をすべての技術プロバイダーに負わせることです。.