Google は、テキスト透かしツール SynthID をオープンソース化しました。これは、テキストがオリジナルなのか AI によって生成されたのかをユーザーが簡単に検出できる技術です。
Googleによると、AI生成のテキスト検出器はAIプラットフォーム「Hugging Face」とGoogleの最新版「Responsible GenAI Toolkit」からダウンロードできるという。過去 2 年間の生成 AI のブームにより、LLM が誤った情報や偽情報、合意のない性的コンテンツや悪意のある目的を広めるために操作されているため、ウォーターマークは重要なものになりました。
欧州連合法執行機関が懸念しており、そのようなツールの開発が急務となっている中で行われた。
Googleの研究者が自社の透かしツールについて説明
Xプラットフォームへの投稿でdentのに役立つため、企業や開発者が自由に利用できる」と述べた。
dent副社長であり、Google DeepMind の研究論文の共著者であるPushmeet Kohli 氏は
画像とビデオはコンテンツのdentに関する議論の中心となっており、ディープフェイクに対抗するために必要なソリューションとして透かしが指定されています。
コンテンツ来歴と信頼性に関する連合( C2PA) も、これらの議論の中心となっています。
Google DeepMinds の研究論文によると、SynthID Text は、チャットボットによって出力される一部の単語を、SynthID 検出器には明瞭だが人間にはほとんど認識できないように変更するため、生成中に干渉します。
「このような変更により、AI が生成したテキストに統計的な署名が取り込まれ、透かし検出フェーズ中に署名を測定して、テキストが透かし入りの LLM によって AI モデルからのものであるかどうかを確認できます」と研究者らは論文で述べています。
文章を単語ごとに生成することにより、チャットボットを強化する LLM がどのように機能し、前の内容のコンテキストに応じて次の可能性の高い単語を選択します。 LLM は、単語候補に数値スコアをランダムに割り当てることで、より高いスコアを持つ単語を生成します。透かしは、検出器によって分析され、より高いスコアを持つことが判明したテキストに挿入されます。
本日、更新された Responsible Generative AI Toolkit を通じて、SynthID テキスト透かしツールをオープンソース化します。
開発者や企業が無料で利用できるため、AI によって生成されたコンテンツをdentのに役立ちます。 🔍
詳細はこちら→ https://t.co/n2aYoeJXqn pic.twitter.com/4uRKYaz57Y
— Google DeepMind (@GoogleDeepMind) 2024 年 10 月 23 日
業界専門家が Google が正しい方向に進んだことを称賛
DeepMind システムは、テキストに透かしを入れる際に他のツールよりも優れたパフォーマンスを発揮しますが、研究者らは論文の中で、このツールにはまだ欠陥があることを認めています。たとえば、Gemini が生成したテキストを変更すると、検出器はだまされてしまいます。
「SynthID は AI 生成コンテンツをdentための特効薬ではありませんが、より信頼性の高い AIdentツールを開発するための重要な構成要素です。」
– コーリ。
ユーザーがテキストを大幅に変更したり、別のチャットボットを使用してテキストを要約したりすると、検出器は誤って AI が生成したテキストに透かしを入れることになります。
Gemini モデルに統合されたシステムによってテストされたとおり、SynthID Text はテキスト生成の品質、精度、速度を損なうことはないと主張しています。同社はまた、切り取られたり、変更されたり、言い換えられたテキストでも機能すると付け加えた。
「実際の状況での実装を考慮し始めると、検出が特に問題になります。実際のテキストのレビューには問題があり、透かしのどのモデルが適用されているか、どこに電子透かしが配置されているかを知る必要があります。」信号だ」とC2PA運営委員会のメンバーであるブルース・マコーマック氏は説明した。
Googleのほかに、OpenAIもAIテキスト透かし技術に何年も取り組んできたが、リリースを延期してきた。
しかし、業界の専門家は総じて、Googleの取り組みを正しい方向への一歩として称賛している。
Microsoft のメディア来歴担当ディレクターで C2PA 執行委員長の Andrew Jenks 氏は、「これにより、C2PA の耐久性のあるコンテンツdent情報を文書や生のテキストに使用できるようになります。」と述べています。
マコーマック氏はまた、Googleの研究者がこれを実用化するためにやるべきことはまだたくさんあるが、それでも素晴らしい取り組みであり、「これからのマラソンの第一歩」であると付け加えた。
キーの違いワイヤ：保証されたメディアの報道を取得するために使用する秘密のツールCryptoプロジェクト
