Google の生成 AI ツールが架空のニュースサイト作成に悪用され、オンライン広告ビジネスに影響

Google が一般向けに生成人工知能（AI）ツールを急速に導入した結果、これらのツールが架空のニュースサイトを作成し、広告主からの収益を奪う目的で悪用されるという逆効果をもたらしました。NewsGuard の調査によると、これらの詐欺サイトに表示される広告の 90% が Google の広告サービス「Google Ads」によるものです。 

架空のニュースサイトの台頭

NewsGuard の調査により、生成 AI ツールによって作成された虚偽のニュースサイトの急増という驚くべき実態が明らかになりました。これらのサイトは、AI 生成テキストに特徴的な反復的な言語を用いて、さまざまなトピックで大量のコンテンツを生成しています。名称も一般的で、「ニュース」という単語を含むものが多く見られます。一部のコンテンツは捏造されていますが、必ずしも誤解を招くものではありません。また、いくつかの記事は信頼できるソースからの元記事の書き換えです。

プログラム広告の役割

プログラム広告は、ターゲティング広告の一般的な形態として、これらの虚偽のニュースサイトへの広告掲載において中心的な役割を果たしています。この手法では、広告主は自動化されたシステムに依存し、事前に設定されたパラメータに基づいてインターネットユーザーを追跡して広告を表示します。残念ながら、この戦略は、広告主が広告が表示される場所に対する制御権限が限られているため、広告が知らず知らずのうちに詐欺的なサイトに掲載される結果につながることがあります。このサービスの費用は、千回あたりの広告表示数（CPM）あたり 1 ドルから 5 ドルです。

詐欺の拡大

OpenAI の ChatGPT や Google の Bard といった無料の生成 AI ツールの登場により、コンテンツファームが急拡大し、複数のサイト上で膨大な量のコンテンツを生成する能力が高まりました。その結果、米国、フランス、イタリア、ドイツで新たな虚偽ニュースサイトの発見が急増しています。これらのサイトでは、AI ボットによって執筆された約 1,200 件の「記事」が毎日作成されています。本研究では、短期間で 13 の言語において 217 の此类サイトを確認しました。

虚偽サイトの特定における課題

これらの虚偽サイトを検出・特定することは困難です。本研究では、AI チャットボットのエラーメッセージに対する自動テキスト検索を通じて、AI 生成コンテンツの証拠を探りました。しかし、この手法には限界があります。一部のサイトは人間の監督なしに作成・運営されているため、AI 生成コンテンツと AI のエラーメッセージが混在し、複雑で意味不明な記事が生まれることがあるからです。

広告ブランドが知らず知らずのうちに虚偽サイトに広告を出稿している

NewsGuard は、調査対象となった広告ブランド名を公表しませんでしたが、それらには著名な大手企業が含まれていることが指摘されています。これらのブランドとその広告代理店は、自社の広告が信頼性の低い AI 駆動型サイトに掲載されていることに気づいていなかった可能性が高いです。この認識の欠如は評判リスクをもたらすだけでなく、ユーザーの注目を巡ってこれらの詐欺的なサイトと競合する際、信頼できるプラットフォームの信用性を損なう要因となります。

Google は今回の調査結果を受け、コンテンツの作成方法ではなく品質に焦点を当てていることを強調しました。同社は違反が検知された場合、広告のブロックや削除を実施していると主張しています。しかし、調査の結果は、Google の広告サービスがこれらの架空のニュースサイトに掲載された広告の大部分を担当していたことを示唆しており、より厳格な監視と防止策の必要性が浮き彫りとなっています。

大衆に利益をもたらすことを目的としたGoogleの生成AIツールが、同社に対して逆手に取られ、広告主を欺きウェブを汚染する架空のニュースサイトが作成されています。NewsGuardによる調査では、AIによって生成された詐欺的なコンテンツが驚くべきほど蔓延していることが明らかになり、無自覚な広告主が信頼性の低いプラットフォーム上でブランドを宣伝してしまっています。オンライン広告エコシステムを守るため、Googleのようなデジタル広告企業は、これらの欺瞞的な慣行を特定し軽減するための取り組みを強化しなければなりません。それこそが、広告主を守り、ウェブの信頼性を維持するために必要なことです。