Googleは風刺的および意味不明なクエリに対するAI概要を制限

Googleは、いくつかの検索結果におけるAIオーバービューの提示を縮小しています。この決定は、検索大手が公にされたミスを行い、インターネット上で世論の反発を招いた後に行われました。

木曜日、Google Searchの責任者であるLiz Reidは、会社が「AIオーバービュー」と呼ばれるAI生成サマリーを制限していることを認めました。このAI搭載機能は、岩を食べたりチーズをピザに接着したりするよう人々に促すコンテンツを表示し始めた際に批判されました。

関連記事: Google、OpenAI、および他13社が危険なAIモデルの展開を行わないことを約束

Googleは、毎年恒例のI/Oイベントの2週間後、複数のAIベースの提供を開始した後、米国でユーザーにAIオーバービューの表示を開始しました。木曜日以降、ユーザーは質問の減少とそれに伴うAI応答に気づきました。

偽物のAIオーバービューの識別には慎重な分析が必要です

Reidはブログ記事で、ソーシャルメディア上でAIオーバービューが奇妙な解決策を提案するスクリーンショットが共有されたことを書きました。彼女は、会社のAIがいくつかのミスをしたが、その多くは偽物であり、GoogleのAIシステムによって生成されたものではないと述べました。

彼女は、奇妙または不正確なAIオーバービューが確かに表示されたことを認めました。これは機能の改善が必要な領域を強調していますが、一般的に検索されるクエリではありません。偽物について言及し、彼女は次のように述べています。

「別途、多数の偽造スクリーンショットが広く共有されています。これらの偽造結果の一部は明白でばかげたものでした。」

ReidはGoogleが何も表示しなかったと述べました AIオーバラップ 妊娠中の喫煙や犬を車内に放置することなどのトピックについて。彼女は、ソーシャルメディアでそれらのスクリーンショットを見たユーザーに、自分で検索して確認することを奨励しました。

GoogleのAIは現在、風刺コンテンツを識別できます

Googleは、風刺コンテンツと意味不明なクエリが、不正確なAIオーバービューを生み出すために対処が必要な領域であることを特定しました。Googleは、「岩を何個食べるべきか？」というクエリのスクリーンショットがバイラルになる前に、誰もその質問をしなかったと述べています。Reidは、確認のためにGoogleトレンドを見ることができると言っています。

関連記事： OperaがGoogleのGeminiモデルを統合し、AriaブラウザAIを強化

もう一つの要因は、特定のトピックに関するコンテンツが非常に少ないこと、すなわちデータボイドであり、これも不正確なAIオーバービューの原因となります。岩を食べるクエリに関して、Reidは、コンテンツの風刺的な性質がAIオーバービューをトリガーしたと述べました。そのコンテンツは地質学ソフトウェアのウェブサイトでも再公開されており、AIオーバービューはそこにリンクしていました。彼女は次のように明確にしました。

「したがって、誰かがその質問をSearchに入力すると、その質問に取り組んだ唯一のウェブサイトの1つに忠実にリンクするAIオーバービューが表示されました。」

Reidはソーシャルメディアで回っていた他のAIオーバービューには言及せず、多くの大手出版社もそれらに関するレポートを掲載しました。例えば、ワシントン・ポストは、Googleがバラク・オバマがムスリムであると人々に伝えたというレポートを掲載しました。その出版物はまた、Google AI Overviewがユーザーに腎臓結石を排出するために尿を飲むべきだと伝えた別の事例も報告しました。

Googleは公のフォーラムへの執着を持っています

Googleの検索責任者は、会社が機能を実験的にテストした後に一般公開したと指摘しました。彼女は、現実世界の使用方法はテストフェーズでシミュレートするのが困難であることを認めましたが、会社は典型的なユーザークエリの堅牢なレッドチーム演習とサンプリングを実施しました。 

関連記事: GoogleのAIオーバービュー機能は不正確な結果により反発を受けています

一部のユーザーやインターネットコンテンツアナリストは、Googleが最近Redditのような公のフォーラムからの結果を多数表示し始めたことに注目しています。一部の人はGoogleとRedditの取引を疑問視していますが、GoogleのスポークスパーソンはBBCに対し、Redditの検索結果での可視性を高めるための合意にそのような条項は含まれていないと述べました。

マーケティングエージェンシーAmsiveのSEO戦略およびリサーチ担当バイスプレジデントであるLily Rayは、現在、多くのクエリでRedditからの結果が表示されると述べています。彼女はX（旧Twitter）での投稿でGoogleを皮肉り、世界のすべての知識（Redditコンテンツ）がAIと組み合わされていると述べました。

Ladies and gentlemen, all the world’s knowledge, combined with the power of AI and one Reddit troll. pic.twitter.com/jhzT2pGXjh

— Lily Ray 😏 (@lilyraynyc) 5月 21、2024

Reidは、AIオーバービュー機能がいくつかの例でディスカッションフォーラムからの風刺的なコンテンツを表示したと述べています。彼女は、フォーラムは一次情報の良い源であるが、場合によってはチーズをピザに接着するなど、それほど役に立たない回答をトリガーする可能性があると言いました。

GoogleのAIは言語も誤解し、AIオーバービューに誤った情報をもたらしますが、そのような回答の比率は会社によると非常に低いとされています。Reidは、ポリシーに準拠しない応答を改善または削除することで、問題を迅速に解決したと指摘しました。

Google SearchのVPは、健康やニュースなどのトピックに対して強力なガードレールが存在すると述べました。会社は健康に関する品質保護を強化するために新しいトリガー改良を立ち上げました。Reidは、意味不明なクエリをAIオーバービューとして表示しないように、検出システムも更新されたと述べました。彼女は、風刺的なクエリに対するAIオーバービューの減少を確認する可能性を示唆し、次のように述べています。 「私たちは、誤解を招くアドバイスを提供する可能性のある応答におけるユーザー生成コンテンツの使用を制限するようにシステムを更新しました。」

CryptopolitanによるAamir Sheikhのレポート