Google、風刺的かつ無意味なクエリに対するAIによる概要表示を制限

Googleは、一部の検索結果におけるAI概要の表示を縮小する。この決定は、Googleがいくつかのミスを犯し、インターネット上で激しい反発を招いたことを受けて行われた。.

木曜日、Google検索責任者のリズ・リード氏は、同社がAI生成の「AI概要」と呼ばれる要約表示を制限していることを認めた。このAI搭載機能は、石を食べるように、ピザにチーズを貼り付けるようにと指示するコンテンツを表示し始めたことで批判を浴びた。.

こちらもご覧ください: Google、OpenAI、その他13社がリスクのあるAIモデルを導入しないと誓約

Googleは、年次イベントI/Oの2週間後、米国のユーザー向けにAI概要の提供を開始しました。I/Oでは、AIベースのサービスをいくつか展開しました。木曜日以降、ユーザーは質問が減り、AIによる回答が増えていることに気付きました。.

偽のAI概要をdentするには慎重な分析が必要

リード氏はブログ投稿で、ソーシャルメディア上で奇妙な解決策を提案するAIオーバービューのスクリーンショットが共有されていたと指摘した。同社のAIにはいくつかの間違いがあったが、その多くは偽物であり、GoogleのAIシステムによって生成されたものではないと彼女は述べた。.

彼女は、確かに奇妙な、あるいは不正確なAI概要がいくつか表示されたことを認めた。それは機能の改善が必要な領域を浮き彫りにしたが、それらは一般的に検索されるクエリではない。偽物について、彼女は次のように述べた。

「それとは別に、偽造されたスクリーンショットが大量に広く共有されています。中には、明らかにばかげた偽造結果も含まれていました。」

表示を行っていないと述べた AIによる概要 。ソーシャルメディアでこれらのスクリーンショットを見たユーザーは、自分で検索して確認するよう促した。

GoogleのAIが風刺的なコンテンツdentできるようになりました

Googleは、風刺的なコンテンツや無意味なクエリが、AIによる概観結果の精度を低下させる要因となっていることを明らかにしdentた。Googleによると、「石を何個食べればいいの？」というクエリのスクリーンショットが拡散される前は、誰もこの質問をしていなかったとのことです。リード氏は、Googleトレンドで確認できると述べています。.

関連記事： OperaがGoogleのGeminiモデルを統合し、AriaブラウザのAIを強化

もう一つの要因は、特定のトピックに関するコンテンツが非常に少ないこと、つまり「データボイド」と呼ばれることです。これもAIオーバービューの不正確さの一因となっています。岩石を食べるクエリに関して、リード氏は、コンテンツの風刺的な性質がAIオーバービューのトリガーになったと述べています。このコンテンツは、AIオーバービューがリンクしている地質学ソフトウェアのウェブサイトにも転載されていました。彼女は次のように説明しています。

「そのため、誰かがその質問を検索に入力すると、その質問に取り組んでいる数少ないウェブサイトの1つに忠実にリンクしたAI概要が表示されました。」

リード氏は、ソーシャルメディアで広まっている他のAIによる概観については言及しなかったが、多くの大手出版社もそれらに関する記事を掲載している。例えば、ワシントン・ポスト紙は、Googleがバラク・オバマはイスラム教徒だと伝えたという記事を掲載した。また、同紙は、GoogleのAIによる概観が、腎臓結石を排出するために尿を飲むべきだとユーザーに伝えた事例も報じている。.

Googleは公開フォーラムに執着している

Googleの検索責任者は、この機能を一般公開する前に徹底的にテストしたと述べた。また、テスト段階では実際の使用状況をシミュレートするのは難しいと認めつつも、徹底的なレッドチームテストと典型的なユーザークエリのサンプリングを実施した。. 

関連記事： GoogleのAI概要機能が不正確な結果で批判に直面

一部のユーザーやインターネットコンテンツアナリストは、Googleが最近、Redditのようなパブリックフォーラムからの検索結果を多く表示し始めたことに気づいています。同社とRedditの契約に疑問を呈する声もありますが、Googleの広報担当者はBBCに対し、検索結果におけるRedditの露出を高めるための契約にはそのような条件は含まれていないと述べました。.

マーケティング会社AmsiveのSEO戦略・リサーチdent 、リリー・レイ氏は、現在多くの検索クエリでRedditの結果が表示されるようになっていると述べている。また、彼女はX（旧Twitter）の投稿でGoogleを揶揄し、世界中の知識（Redditのコンテンツ）がAIと融合していると述べている。.

皆様、世界のあらゆる知識とAIの力、そして一人のReddit荒らしが融合しました。 pic.twitter.com/jhzT2pGXjh

— リリー・レイ😏 (@lilyraynyc) 2024年5月21日

リード氏によると、AIオーバービューには、ディスカッションフォーラムからの皮肉なコンテンツがいくつか含まれているという。フォーラムは直接的な情報を得る上では良い情報源だが、場合によっては、ピザにチーズを接着するといった、あまり役に立たない回答が返ってくることもあるという。.

GoogleのAIは言語を誤って解釈し、AI概要に誤った情報が表示されることがあるが、同社によると、そのような回答の割合は非常に低いという。リード氏は、改善やGoogleのポリシーに準拠していない回答の削除を通じて、迅速に問題を解決したと述べた。.

Google検索の副社長は、tronなガードレールが存在するとも述べた。同社は、健康に関する品質保護を強化するため、新たなトリガーの改良を導入した。リード氏は、意味不明なクエリをAI概要として表示しないように、検出システムも更新したと述べた。また、風刺的なクエリに対するAI概要が減ったことを示唆し、 「誤解を招く可能性のあるアドバイスを提供する応答でユーザー生成コンテンツの使用を制限するために、システムを更新しました」と述べた。

Cryptopolitan アーミール・シェイク記者によるレポート