GoogleのAI概要機能は不正確な結果で批判にさらされている

Googleが最近Google検索に導入した「AI概要」機能は、 にさらされている 。ユーザーからは、AIによる要約が様々な検索に対して非論理的または誤った回答を生成し、しかもそのサービスを無効にする方法がないため、多くの事例が報告されている。 

こちらもご覧ください: 新しいChrome拡張機能はGoogle検索エクスペリエンスの向上を目指しています

最近の例としては、料理の習慣や健康に関する推奨事項に関する疑わしいアドバイスがあり、批判の波とソーシャルメディアでの嘲笑を引き起こした。.

ユーザーがAI概要の欠陥のある回答を暴露

新機能「AI概要」は2週間足らず前にリリースされ、質問に対する簡潔な概要を提供するように設計されています。例えば、革のブーツのお手入れ方法を検索すると、複数のウェブサイトから引用された手順が表示されることがあります。しかし、ユーザーからは、このツールが不正確で危険な可能性のある推奨事項を提供する可能性があるという報告があります。.

こちらもご覧ください： Googleの新しいAI検索はウェブサイトのトラフィックに悪影響を与えるのか？出版社は懸念を抱いている。

AIが犯したもう一つの間違いは、米国には何人のイスラム教徒のdentがいたかと尋ねられたときに、「米国にはバラク・フセイン・オバマというイスラム教徒のdentが1人いた」と答えたことだ。. 

もう一つ のアドバイスは 、ピザソースを作る際にチーズが剥がれないように接着剤を使うというものでした。このアドバイスはRedditのコメントから生まれたことが判明し、AIが信頼できない情報源から情報を得ている可能性が浮上しました。  

他にも、太陽を見つめることは健康に良いとか、岩石を毎日の食事に取り入れるべきといった、とんでもない提言がありました。指摘されている問題点の中には、果物の記載ミスや歴史上の年代の計算ミスといった単純な誤りも含まれています。.

誤報は信頼できる情報源を傷つける

AI Overviewは、信頼できる情報源を誤った情報で誤って引用しているとして批判されています。例えば、次のように主張しています。

「WebMDによると、科学者たちは、5～15分、肌の色が濃い場合は最大30分、太陽を見つめることは一般的に安全であり、最大の健康効果をもたらすと述べています。」

このような誤った帰属は、steemの評判を著しく損なう可能性があり、一般の人々にとって潜在的に危険な場合があります。Google検索が独占禁止法に違反するかどうかの質問に対し、AI Overviewは次のように述べています。

「はい、米国司法省と11州がGoogleを独占禁止法違反で訴えています。」

Googleの広報担当者、メーガン・ファーンズワース氏 は、 今回の誤りは「一般的に非常にまれな検索クエリによるものであり、大多数のユーザーの経験を代表するものではない」と述べた。同氏は、誤りはまれなクエリによるものであり、同社はコンテンツポリシー違反の是正に積極的に取り組んでいると述べた。こうした保証があったとしても、今回の反発は、AI技術の普及拡大に伴うより広範な問題について疑問を投げかけるものとなっている。

ジェミニ画像生成ツールの大失敗に類似点が浮上

AI Overviewをめぐる論争は、Googleの画像生成ツール「Gemini」が2月のリリース直後に直面した問題と類似しています。Geminiも同様の誤解と疑わしい結果によって発生しました。指摘された問題の中には、履歴の誤った表現や使用に適さないスケッチなどがあり、Googleはツールの運用を停止し、機能強化に取り組むことになりました。.

生成AI分野は、Google、Microsoft、Open AIといった大手企業の存在により、熾烈な競争を繰り広げています。人工知能ツールおよびエージェントの市場規模は、今後10年間で1兆米ドルを超えると予測されています。こうした熾烈な競争により、新製品のリリースへのプレッシャーから、未成熟な技術が市場に投入される可能性も懸念されます。.

こちらもご覧ください: Google、OpenAI、その他13社がリスクのあるAIモデルを導入しないと誓約

Googleは世界で最も利用されている検索エンジンであるため、批判を受けやすいという側面があります。現在、同社の検索エンジンは世界市場シェアの90%以上を占めており、その有効性はユーザー満足度と同社のビジネスモデルにとって決定的な役割を果たしています。.