Google推出無形水印工具SynthID，以解決AI生成圖像的擔憂

著者

エディタ・パトリック 3分で読了公開 3月 2023日

サンダル・ピチャイ氏は、「本日、当社はプラットフォームに提出された画像に対してデジタル透かしと検証機能を初めて提供するクラウドプロバイダーとなりました」と誇らしげに発表しました。さらに、2022 年以来の集中的な開発努力の成果である SynthID は、AI 生成画像への透かし付けにおける画期的なアプローチを提供すると説明しました。切り抜き、リサイズ、写真編集ツールなどを用いた改ざんが頻繁に可能となる従来の透かしとは異なり、SynthID の透かしは人間には検出されません。この革新は、AI 生成コンテンツに対する不正な改変や配布の試みを阻止することを意図しています。悪意ある活動の抑制に向けた戦略的動き新技術の潜在的な悪用や脆弱性に関する批判家の懸念を踏まえ、Google は戦略的なアプローチを選択しました。批判家からは初期発表で具体的な技術詳細が不足している点が指摘されましたが、Google のその理由は、悪意のある行為者が技術を悪用するのを防ぐためです。Google DeepMind の CEO デミス・ハサビス氏は、「仕組みについて多くを明らかにすればするほど、ハッカーや悪意のある組織がそれを回避しやすくなる」と説明しました。この慎重なアプローチは、セキュリティを強化しつつ、意図せず脆弱性を露呈させないという Google のコミットメントを示しています。SynthID の可能性の拡大まだ初期段階にあるものの、SynthID の応用範囲は画像を超えています。デミス・ハサビス氏は、SynthID が動画やテキスト形式にも適応されると展望しています。しかし、ハサビス氏は、SynthID が前向きな一歩ではあるものの、ディープフェイクというより広範な問題に対する決定的な解決策と見なすことはできないと認めています。生成 AI 技術の進展によって駆動されるディープフェイクは、ソーシャルメディアプラットフォーム上で懸念すべきトレンドとなり、世界中の規制当局に警鐘を鳴らしています。ディープフェイクの難問と規制措置ディープフェイクの蔓延は特に、2024 年の選挙シーズンが迫る中で懸念を呼び起こしています。米国連邦選挙委員会（FEC）を含む規制当局は、AI 生成画像および動画の使用を規律する規則を確立するため、公聴会を開始しました。世論操作や特定の地域での暴力扇動にディープフェイクが利用される可能性は、効果的な保護措置の緊急性を高めています。Google の SynthID の導入は、OpenAI や Meta などの主要企業が AI 生成コンテンツのラベル付け基準やメタデータソリューションの開発に取り組む、業界全体の傾向に沿ったものです。業界全体による協調的努力Google は SynthID で先頭に立っていますが、業界の同業者も AI 生成コンテンツに関する議論に積極的に貢献していることは注目に値します。テクノロジー分野の有力プレイヤーである OpenAI と Meta の両社は、責任とセキュリティの向上のための道筋を探っています。これらの企業は、保護措置の実装とラベル付け基準の導入を約束しています。これらの業界リーダーの間で共通のアプローチの一つは、AI 生成コンテンツにタグを付けるための暗号化メタデータの統合です。世界的な懸念と EU 人工知能法欧州連合（EU）の次期 AI 法は、AI 生成コンテンツを「明確にラベル付けすること」の重要性を浮き彫りにしています。政治プロセス、金融市場、さらには Web3 といったデジタルエコシステムを混乱させる可能性を背景に、国連と市民社会団体は、無制限のディープフェイクの蔓延に対する懸念を表明しています。選挙やセキュリティへの潜在的な影響は依然として喫緊の課題です。結論として、Google の SynthID は、AI 生成コンテンツに関連する懸念に対処するための大胆な一歩を表しています。目に見えない透かしを導入することで、Google は画像の品質を維持しながら不正な改ざんを阻止する取り組みを進めています。しかし、責任ある AI 利用を確保するための旅路は、業界リーダー、規制当局、そして世界中の関係者による協調的な取り組みです。技術が進化するにつれて、ディープフェイクの課題に対する包括的な解決策を見出すことは、デジタルエコシステムと社会全体を守るために不可欠です。

GoogleがSynthIDを発表：AI生成画像への不可視透かし
SynthIDは検出不可能な透かしでディープフェイクの懸念に対処
業界のリーダーたちが協力し、AIコンテンツセキュリティを強化

Sundar Pichai自豪地宣佈：「今天，我們很高興成為首家在我們平台上提交的圖像中實現數字水印和驗證的雲服務提供商。」他進一步解釋說，SynthID是2022年以來密集開發努力的產物，為AI生成圖像的水印提供了一種開創性的方法。與傳統水印不同，傳統水印經常可以使用裁剪、調整大小或照片編輯工具等多種技術進行篡改，而SynthID的水印對人類來說是不可見的。這項創新旨在阻止任何未經授權的修改或分發AI生成內容的嘗試。

限制惡意活動的戰略舉措

鑑於批評者對新技術潛在濫用和脆弱性的擔憂，Google選擇在方法上採取戰略性態度。雖然批評者指出初始公告缺乏具體的技術細節，但Google這樣做的理由是阻止惡意行為者利用該技術。Google DeepMind的首席執行官Demis Hassabis解釋道：「你揭示的工作原理越多，黑客和惡意實體就越容易繞過它。」這種謹慎的態度強調了Google在加強安全性的同時，無意中暴露脆弱性的承諾。

SynthID的擴展視野

雖然SynthID仍處於早期階段，但其潛在應用範圍不僅限於圖像。Demis Hassabis設想SynthID也能適應視頻和文本格式。然而，Hassabis承認，雖然SynthID是一個有希望的進步，但不能被視為解決深偽問題的根本方案。由生成式AI技術進步推動的深偽現象已成為社交媒體平台上的令人擔憂的趨勢，引發了全球監管機構的警報。

深偽難題和監管行動

深偽的普及引發了擔憂，特別是隨著2024年選舉季節的臨近。包括美國聯邦選舉委員會（FEC）在內的監管機構已啟動公開諮詢，以制定規範AI生成圖像和視頻使用的規則。在某些地區利用深偽操縱公眾意見並可能煽動暴力，增加了對有效保障措施的需求。Google推出SynthID符合更廣泛的行業趨勢，其中OpenAI和Meta等領先公司努力開發AI生成內容的標籤標準和元數據解決方案。

行業協作努力

雖然Google憑藉SynthID處於領先地位，但值得注意的是，行業同行也在積極參與關於AI生成內容的討論。科技領域的兩個主要參與者OpenAI和Meta正在探索增強問責制和安全性的途徑。這些公司已承諾實施保障措施並引入標籤標準。這些行業領導者之間的一種常見方法是整合加密元數據以標記AI生成內容。

全球擔憂和歐盟AI法案

即將出台的歐盟AI法案強調了「明確標記」AI生成內容的重要性。由於可能破壞政治進程、金融市場甚至Web3等數字生態系統，聯合國和公民社會團體對深偽的無序擴散表示擔憂。對選舉和安全的潛在影響仍然是一個迫切的問題。

結論として、GoogleのSynthIDは、AI生成コンテンツに関連する懸念に対処するための大胆な一歩を表しています。目に見えない透かしを導入することで、Googleは画像の品質を維持しつつ、不正な改ざんを防止する上で前進しています。しかし、責任あるAI利用を確保するための取り組みは、業界のリーダー、規制当局、そして世界中の関係者が参加する協力的な努力です。技術が進化するにつれて、ディープフェイクの課題に対する包括的な解決策を見つけることは、デジタル生態系と社会を守るために不可欠であり続けています。

これをお読みいただいているあなたは、すでに一歩先を行っています。当社のニュースレターでその先を行ってください。

この記事をシェア