マイクロソフト、米議会にAI生成ディープフェイクへの対策を要請

マイクロソフトは、AIが生成するディープフェイクを標的とした新たな法案を可決するよう議会に要請した。マイクロソフトの副会長兼dent ブラッド・スミス氏は、議員たちがディープフェイク技術の脅威の高まりに対処することの緊急性を強調した。. 

最近の ブログ記事、ディープフェイク詐欺に対処し、悪用を防ぐために法律を改正することの重要性を強調した。スミス氏によれば、ディープフェイクを使った詐欺や不正行為を起訴するための法律が必要だという。 

マイクロソフトがディープフェイク詐欺に関する連邦法を提案

マイクロソフトの報告書によると、ディープフェイク技術の悪用を防ぐために、いくつかの法的措置が講じられる可能性がある。その提案の一つは、連邦レベルの「ディープフェイク詐欺法」を制定することだ。この新法は、合成コンテンツ詐欺の民事面と刑事面の両方を扱い、刑事訴追、民事差押え、差止命令といった措置が含まれる可能性がある。. 

この報告書は、合成コンテンツのdent要件も支持している。高度な出所特定ツールの使用を規制することで、人々はオンラインで受け取るコンテンツの出所を認識できるようになる。これは、デジタル情報の信頼性を高め、フェイクニュースの拡散を阻止するために重要である。. 

「議会は、AIシステム提供者に対し、合成コンテンツにラベルを付ける最先端の出所証明ツールを使用することを義務付けるべきだ。これは情報エコシステムへの信頼構築に不可欠であり、コンテンツがAIによって生成されたものか、あるいは操作されたものかを国民がよりよく理解するのに役立つだろう。」

ブラッド・スミス

さらにマイクロソフトは、児童搾取および同意のない露骨な画像に関する現行法を改正し、AIが生成した画像も対象に含めることを提案している。これにより、法的枠組みが技術開発と同期し、脆弱な立場にある人々も保護されることが保証される。. 

米国上院は最近、性的に露骨なディープフェイクを対象とした法案を可決し、この問題に関して対策を講じた。この新法により、同意なしに性的に露骨なAIディープフェイクの被害に遭った人は、コンテンツの作成者を訴えることができるようになる。. 

FCCはAI音声による自動音声電話に「ノー」を突きつける

マイクロソフトもAIの悪用に対応し、製品の安全対策を強化した。同社は最近、有名人のわいせつな画像を作成するために悪用された脆弱性を受けて、画像作成ツール「Designer AI」の機能を強化した。スミス氏は、民間企業はAIが悪用されないように対策を講じる必要があり、テクノロジー企業はユーザーが被害を受けないようにする責任があると述べた。. 

FCCは既に、AI音声による自動音声通話を禁止することで、AIの悪用対策を講じている。しかし、生成型AIは偽の音声、画像、動画を生成する能力をますます向上させている。この問題は最近、米国のカマラ・ハリス副dent のディープフェイク動画によってさらに深刻化し、この動画はソーシャルメディア上で拡散され、ディープフェイク技術の危険性の高まりを如実に示した。.

民主主義とテクノロジーセンター（CDT）などの他の非営利団体も、ディープフェイクの悪用対策に取り組んでいる。CDTの上級政策アナリストであるティム・ハーパー氏が指摘するように、2024年は選挙におけるAIの重要な転換点であり、人々はそれに備える必要がある。ディープフェイクに対する現在の反発は、技術操作に対するtracにわたる闘いの初期段階と言えるだろう。.