Google、AI生成テキストをdentできる透かしツールをオープンソース化

Google は、テキストがオリジナルか AI によって生成されたものかを簡単に判別できる技術である SynthID テキスト透かしツールをオープンソース化しました。.

Googleによると、AI生成テキスト検出器は、AIプラットフォーム「Hugging Face」とGoogleのアップデート版「Responsible GenAI Toolkit」からダウンロードできるとのことだ。過去2年間の生成AIのブームに伴い、LLM（Low Liquid Mark Model：ローリング・マーキング）が誤情報や偽情報の拡散、合意のない性的コンテンツ、悪意ある目的のために操作されるケースが増えており、透かしの重要性が高まっている。.

欧州連合法執行機関は、 2026年までにオンラインテキストの90％が合成され、プロパガンダや詐欺、欺瞞が蔓延する可能性があると懸念しており、こうしたツールの開発が急務となっている。

Googleの研究者が透かしツールについて説明

検索エンジン大手のXは、 Xプラットフォームへの投稿で、同社のテキスト透かしツール「SynthID Text」をオープンソース化することを明らかにした。dent「このツールは、企業や開発者がAI生成コンテンツを のに役立つため、無料で利用可能になる」と述べている。

Google DeepMindの研究担当副dent であり、Google DeepMindの研究論文の共著者でもあるプッシュミート・コーリ氏は、「このシステムはAIモデルの機能を損なうことなく、むしろ性能を向上させる」と述べた。

画像と動画はコンテンツdentに関する議論の中心となっており、透かしはディープフェイクに対抗するために必要な解決策として注目されています。.

AIが生成した画像や動画ファイルを示す暗号化されたメタデータを添付するシステムを開発するためにテクノロジー企業と大手メディアが協力している「コンテンツの出所と真正性のための連合（ C2PA）」も、こうした議論の中心となっている。

Google DeepMinds の研究論文によると、SynthID Text は、チャットボットが発する一部の単語を SynthID 検出器には明らかだが人間にはほとんど見えないように変更するため、生成中に干渉します。.

「このような変更により、AIが生成したテキストに統計的な署名が加えられ、透かしの検出段階で署名を測定して、透かし入りのLLMによってテキストがAIモデルからのものであるかどうかを確認できる」と研究者らは論文に記している。.

チャットボットを支えるLLMは、単語ごとに文を生成することで、前の文脈に応じて次に続く可能性のある単語を選択します。LLMは候補となる単語にランダムに数値スコアを割り当てることで、より高いスコアを持つ単語を生成します。検出器によって分析され、より高いスコアを持つことが判明したテキストには、透かしが挿入されます。.

本日、私たちは更新された Responsible Generative AI Toolkit を通じて SynthID テキスト透かしツールをオープンソース化します。.

開発者や企業が無料で利用できるこのツールは、AI で生成されたコンテンツをdentのに役立ちます。🔍

詳細はこちら → https://t.co/n2aYoeJXqn pic.twitter.com/4uRKYaz57Y

— Google DeepMind (@GoogleDeepMind) 2024年10月23日

業界の専門家はGoogleの正しい方向への一歩を称賛

DeepMindシステムは他のツールよりもテキスト透かしの性能に優れているものの、研究者たちは論文の中で、このツールには依然として欠陥があることを認めています。例えば、Geminiで生成されたテキストを改変すると、検出器は誤検知してしまいます。.

「SynthIDはAI生成コンテンツをdentするための万能薬ではありませんが、より信頼性の高いAIdentツールを開発するための重要な基盤となります。」

– コーリ。.

ユーザーがテキストを大幅に変更したり、別のチャットボットを使用してテキストを要約したりすると、検出器は AI 生成テキストに透かしを入れる際に誤った方向に導かれます。.

Googleは、SynthID Textは、 Geminiモデルに統合されたシステムでテストされた結果、テキスト生成の品質、精度、速度を損なうものではないと主張している。また、切り取られたり、変更されたり、言い換えられたりしたテキストでも機能すると付け加えている。

「実際の状況での実装を考慮し始めると、検出は特に問題になります。実際のテキストをレビューする際には、どの透かしモデルが適用されているか、信号がどこにあるのかを知る必要があるため、問題が発生するからです」と、C2PA運営委員会メンバーのブルース・マコーマック氏は説明した。.

Google以外にも、OpenAIも長年AIテキスト透かし技術に取り組んできたが、 リリースを延期して 。

しかし業界の専門家は、Google の取り組みは正しい方向への一歩であると概ね評価している。.

「これは、C2PA のドキュメントや生のテキストに対する耐久性の高いコンテンツdent情報の利用を改善する可能性を秘めています」と、マイクロソフトのメディア起源担当ディレクター兼 C2PA のエグゼクティブ チェアである Andrew Jenks 氏は述べています。.

マコーマック氏はまた、Google の研究者がこれを実用的な事例にするにはまだやるべきことがたくさんあるものの、これは素晴らしい取り組みであり、「これからのマラソンの第一歩」であると付け加えた。