Microsoft、米議会にAI生成ディープフェイクへの対処を要請

Microsoftは、AI生成ディープフェイクを対象とした新法制定を議会に呼びかけています。Microsoftの副会長兼プレジデントであるBrad Smith氏は、立法府がディープフェイク技術の増大する脅威に対処する緊急性を強調しました。 

最近のブログ投稿で、スミス氏はディープフェイク詐欺に対処し、悪用を防ぐために法律を適応させることの重要性を強調しました。スミス氏によると、ディープフェイクによる詐欺や不正行為を起訴するための法令があるべきです。

Microsoft、連邦ディープフェイク詐欺法を提案

Microsoftのレポートによると、ディープフェイク技術の悪用を防ぐためにいくつかの法的介入が可能です。一つのアプローチは、連邦の「ディープフェイク詐欺法」を作成することです。この新法は、合成コンテンツの詐欺に対する民事および刑事の側面に対処し、以下の措置を含む可能性があります：刑事訴追、民事差押え、および差止命令。 

レポートはまた、合成コンテンツの識別を義務付けることを支持しています。高度なプロベナンスツールの使用を規制することで、一般市民はオンラインで受け取るコンテンツの起源を認識できるようになります。これはデジタル情報の信頼性にとって重要であり、偽情報の拡散を止めるためにも不可欠です。 

「議会は、AIシステム提供者に対して最先端のプロベナンスツールを使用して合成コンテンツにラベルを付けることを義務付けるべきです。これは情報エコシステムへの信頼を構築するために不可欠であり、一般市民がコンテンツがAI生成か操作されたものかをよりよく理解するのに役立ちます。」

ブレット・スミス

さらに、Microsoftは現在の児童虐待および同意のない性的画像に関する法律を改正し、AI生成の画像をカバーすることを提案しています。これにより、法的枠組みが技術的発展と同期し、脆弱な人々を保護することが保証されます。 

米国上院は最近、性的に露骨なディープフェイクを対象とした法案を可決し、この方向で措置を講じました。この新法により、同意のない性的に露骨なAIディープフェイクの被害者は、コンテンツの作成者を訴えることができます。 

FCC、AI音声の自動音声電話（ロボコール）を「拒否」

Microsoftはまた、AIの悪用に対応し、製品上の安全性対策を強化しました。同社は最近、有名人の猥褻な画像を生成するために悪用された脆弱性を受けて、Designer AI画像作成機能を強化しました。Smith氏は、民間部門がAIの悪用を防ぐための措置を講じる必要があり、ユーザーが害を受けないようにするのはテクノロジー企業の責任であると述べています。 

FCCはすでに、ロボコールでのAI音声の使用を禁止することで、AIの悪用に対処する行動を起こしています。それでも、生成AIは偽の音声、画像、ビデオの生成においてますます向上しています。この問題は最近、米国のカマラ・ハリス副大統領のディープフェイクビデオがソーシャルメディアで拡散され、ディープフェイク技術の増大する危険性を象徴したことで、さらに悪化しました。

民主主義と技術のセンター（CDT）などの他の非営利団体も、ディープフェイクの乱用と戦うために参加しています。CDTのシニアポリシーアナリストであるTim Harper氏によると、2024年は選挙におけるAIの重要な転換点を示しており、人々はそれに向けて準備する必要があります。現在のディープフェイクへの反発は、技術的操作に対する長期にわたる闘争の初期形態です。