最新ニュース
あなたへのおすすめ

Google、AI生成テキストの識別のために透かしツールをオープンソース化

著者Enacy MapakameEnacy Mapakame 3分で読了
Google、AI生成テキストの識別のために透かしツールをオープンソース化
  • 「Google の AI 生成テキスト検出器 SynthID は、テキストの品質や精度を損ないません。」
  • これはディープフェイク対策に向けた適切な一歩と見なされています。
  • OpenAI を含む他のテック企業もテキストウォーターマーキングツールの開発に取り組んでいますが、リリースは延期されています。

Googleは、SynthIDテキスト透かしツールをオープンソース化しました。これは、ユーザーがテキストがオリジナルかAI生成かを容易に検出できる技術です。

Googleによると、AI生成テキスト検出器は、AIプラットフォームのHugging FaceおよびGoogleの更新されたResponsible GenAI Toolkitからダウンロードできます。過去2年間の生成AIのブームにより、LLMが誤情報や偽情報を拡散するために操作され、同意のない性的コンテンツや悪意のある目的で使用されるようになったため、透かしは重要になっています。

この開発は、欧州連合法執行機関が2026年までにオンラインテキストの90%が合成される可能性を懸念し、プロパガンダ、詐欺、欺瞞が蔓延しているため、そのようなツールの開発に緊急性があるという状況下で行われています。

Google研究者、透かしツールの仕組みを説明

Xプラットフォームでの投稿において、検索エンジンの巨人は、SynthID Textの透かしツールをオープンソース化すると明らかにし、「企業がAI生成コンテンツを識別するのに役立つため、企業や開発者に無料で提供される」と述べています。

Google DeepMindの副社長であり、Google DeepMindの研究論文の共著者であるプッシュミート・コリは、「このシステムはAIモデルの機能を損なうものではなく、単にそれらをより良くするものです」と述べています。

画像とビデオはコンテンツの資格証明に関する議論の中心にあり、透かしはディープフェイクに対抗するために必要な解決策として指定されています。

テクノロジー企業と主要なメディア outlet が協力して、AI生成の画像およびビデオファイルを示す暗号化メタデータを付与するシステムを策定するためのコンテンツの起源と真正性の連合(C2PA)も、これらの議論の中心にありました。

Google DeepMindの研究論文によると、SynthID Textは生成中に干渉し、チャットボットが出力するいくつかの単語を変更して、SynthID検出器には明確だが人間にはほぼ見えないようにします。

「このような修正は、AI生成テキストに統計的なシグネチャをもたらします。透かし検出フェーズでは、このシグネチャを測定することで、そのテキストが透かし付きLLMによるAIモデルから生成されたものかどうかを確認できます」と、研究者らは論文で述べています。

チャットボットを動かすLLMは、文を単語ごとに生成することで動作します。これは、直前の文脈に応じて次に出現する可能性の高い単語を選択する仕組みです。候補となる単語にランダムに数値スコアを割り当てることで、LLMはスコアの高い単語を生成します。透かしは、検出器によって分析され、高いスコアを持つことが確認されたテキストに付与されます。

業界の専門家は、Googleの正しい方向への一歩を称賛

DeepMindのシステムは他のツールよりもテキストの透かし付けにおいて優れたパフォーマンスを発揮していますが、研究者らは論文の中で、このツールにはまだ欠陥があることを認めています。例えば、Geminiによって生成されたテキストを変更すると、検出器は欺かれます。

「SynthIDはAI生成コンテンツを特定するための万能薬ではありませんが、より信頼性の高いAI識別ツールを開発するための重要な構成要素です。」

– コーリ。

ユーザーがテキストを大幅に変更したり、別のチャットボットを使用してテキストを要約したりすると、検出器はAI生成テキストの透かし付けにおいて誤った方向へ誘導されます。

Googleは、SynthID Textが、そのGeminiモデルに統合されたシステムによってテストされた際、テキスト生成の品質、精度、速度を損なわないと主張しています。同社はまた、切り取られた、変更された、または要約されたテキストでも機能すると付け加えました。

「検出は、実環境での実装を考慮し始めると、特に問題となります。なぜなら、野外でのテキストレビューには課題があり、どの透かし付けモデルが適用されているかを知り、シグナルをどこで探す必要があるかを知る必要があるからです」と、C2PAステアリングコミッティのメンバーであるBruce MacCormack氏は説明しました。

Googleに加え、OpenAIも長年AIテキストの透かし技術に取り組んでいますが、技術的および商業的な実現可能性のため、リリースを遅らせています。

しかし、業界の専門家は一般的に、Googleの取り組みを正しい方向への一歩として称賛しています。

「これは、ドキュメントや生テキストに対するC2PAの永続的なコンテンツ認証の活用を改善する可能性を秘めています」と、Microsoftのメディア出所責任者でありC2PAの執行議長であるAndrew Jenks氏は述べています。

MacCormack氏はまた、Googleの研究者たちはこれを実用的なケースにするためにまだ多くの課題を抱えていますが、これは素晴らしいイニシアチブであり、「今後のマラソンの最初のステップ」であると付け加えました。

暗号通貨のニュースを読むだけでなく、それを理解しましょう。ニュースレターに登録してください。無料です。

免責事項。 ここに提供される情報は取引助言ではありません。 Cryptopolitan.com 当社は、このページに提供される情報に基づいて行われたいかなる投資に対しても責任を負いません。いかなる投資判断を下す前に、独立した調査および/または資格を有する専門家への相談を強く推奨します。

Enacy Mapakame

Enacy Mapakame

Enacy Mapakame は、ビジネスおよび金融ニュース分野で 10 年以上の経験を持つジャーナリストです。資本市場とメタバース、AI、暗号通貨などの新興技術を担当しています。Enacy はメディア・社会研究専攻の学士(優等学位)を取得しています。

もっと見る… ニュース