GoogleのAIオーバービュー機能は不正確な結果により反発を受けています

Googleの最近発売されたGoogle検索の「AI Overview」機能 は 大きな批判に直面しています。ユーザーは、AI要約が異なる検索に対して非論理的または誤った応答を生成し、サービスを無効にする方法がないという多数のケースを投稿しました。 

関連記事: 新しいChrome拡張機能はGoogle検索体験の向上を目指す

最近の例には、料理慣行や健康推奨に関する疑わしい助言が含まれており、批判の波とソーシャルメディアでの嘲笑を巻き起こしました。

ユーザーがAI Overviewの欠陥のある応答を暴露

新しい機能であるAI Overviewは、2週間未満前に発売され、質問の簡単な概要を提供するように設計されました。例えば、革靴の掃除方法を検索すると、異なるウェブサイトから取得した指示が提供される場合があります。しかし、ユーザーは、このツールが誤っており、潜在的に危険な推奨事項を提供する可能性があると報告しています。

関連記事: Googleの新しいAI検索はウェブサイトトラフィックを損なうのか、出版者を心配させるのか？

AIがもう一つ行ったミスは、米国に何人のイスラム教徒の大統領がいたかという質問に対して、「米国にはイスラム教徒の大統領が1人、バラク・フセイン・オバマがいる」と述べたことでした。 

もう一つの 助言は、チーズが滑り落ちないようにピザソースの調製に接着剤を使用するというものでした。この推奨事項はRedditのコメントに由来することが判明し、AIが信頼できない情報源から情報を取得している可能性が浮上しました。

他の驚くべき推奨事項には、太陽を凝視することは健康に良いとし、人々が毎日食事に取り入れるべきだと主張するものがありました。指摘されている問題の一部には、果物の間違った列挙や歴史の日付の計算ミスなどの単純なミスが含まれています。

誤った帰属が信頼できるソースの信用を傷つける

AI Overviewは、誤った情報で信頼できるソースを誤引用したことも批判されています。例えば、それは次のように主張しました：

「WebMDによると、科学者は、5〜15分間、または肌が暗い場合は最大30分間、太陽を凝視することは一般的に安全であり、最も多くの健康上の利益をもたらすと述べています。」

このような誤った帰属は、高く評価された機関の評判を傷つけ、一般大衆にとって潜在的に危険です。Google検索が独占禁止法に違反するかどうかという質問に対して、AI Overviewは次のように答えました：

「はい、米国司法省と11州がGoogleを独占禁止法違反で訴えています。」

Googleの spokesperson であるMeghann Farnsworth は、これらのミスは「一般的に非常に稀なクエリに起因するものであり、大多数の人々の経験を表すものではない」と述べました。彼女はミスが稀なクエリにあったと述べ、同社がコンテンツポリシーの違反を修正するために積極的に取り組んでいると述べました。これらの保証にもかかわらず、反発はAI技術の採用増加に伴うより広範な問題について疑問を投げかけています。

Gemini画像生成ツールの騒動との類似性が浮上

AI Overviewをめぐる論争は、2月に発売された直後に同じ誤解釈や疑わしい結果によりGoogleのGemini画像生成ツールが直面した問題に似ています。強調された問題の一部には、歴史の誤った表現や使用に適さないスケッチが含まれており、これによりGoogleはツールの運用を停止し、強化に取り組むことになりました。

生成AI分野での競争は、Google、Microsoft、Open AIなどのプレイヤーの存在により激しいです。人工知能ツールとエージェントの市場は、今後10年以内に1兆米ドル以上の規模に達すると予測されています。この激しい競争は、新製品のリリースに対する圧力により、未熟な技術が市場で使用される原因となる可能性があります。

関連記事: Google、OpenAI、その他13社が危険なAIモデルの展開を行わないことを誓約

Googleは世界で最も人気のある検索エンジンであり、これは批判に対して非常に脆弱であることを意味します。現在、同社の検索エンジンはグローバル市場シェアの90％以上を支配しており、その有効性はユーザーの満足度と会社のビジネスモデルにとって決定的です。