Google AI Overviewsの健康検索エラーが懸念される

Googleは健康問題に関する質問に人工知能（AI）を用いて回答しています。一部のアナリストは、AI概要機能が信頼性の低い情報を提供する可能性があることを懸念しています。.

医療従事者たちは、特に個人の健康に関する質問に答える際に、AIによる概要表示が懸念材料になり得ると指摘しています。ニューヨーク・タイムズ紙の最近の報道によると、医療従事者たちは、この機能は必要な医療処置へと導く可能性もあるものの、不正確な情報を提供する可能性があると主張しています。.

AI概要の検索エラーがAI幻覚感情を刺激する

Googleは、ウェブサイトのコンテンツの要約を生成し、Googleの検索結果ページに表示する機能「AI概要」を導入しました。しかし、導入から数日で、この機能は不正確な情報源に基づいて回答しているため、様々な点で不正確な情報が含まれていることが明らかになりました。この出来事は、AIは幻覚に陥りやすく、事実と異なる情報を生成する可能性があるという見方をさらに強めています。.

こちらもご覧ください: Google、風刺的かつ無意味なクエリに対するAI概要を制限

健康関連の検索結果で、毎日岩石を摂取するよう勧めたり、糊付けしたピザを食べるよう勧めたりすることは、反発を招いています。AIオーバービューは、世界保健機関（WHO）、WebMD、PubMed、メイヨークリニックなどの情報源を引用していますが、これらの情報源に限定されているわけではありません。アナリストによると、このツールはReddit、Wikipedia、様々なブログ、eコマースサイトなどからも情報を取得しているとのことです。.

Googleのシニアプロダクトマネジメントディレクター、ヘマ・ブダラジュ氏は、健康関連のクエリには追加のガードレールがあると述べたが、それ以上の詳細は明らかにしなかった。また、システムが自傷行為を感知した場合など、一部のクエリではAIオーバービューがトリガーされないと付け加えた。.

Googleは、AI Overviewsは複数のソースから取得したデータを含むナレッジベースであるGoogle Knowledge Graphと統合されていると述べたが、AI支援検索機能の出力をサポートするウェブサイトの詳細については明らかにしなかった。.

Google、健康に関する検索でAI概要をもっと表示

従来の検索結果は「10個の青いリンク」と呼ばれることもあり、信頼できる医療情報源と有料リンク、あるいは信頼性の低いウェブサイトを区別するのに役立ちました。しかし、AIオーバービューの登場により状況は変わりました。現在では、複数の情報源から収集された情報が1つのテキストブロックに表示されるため、アナリストによると混乱を招いているとのことです。.

Wired の Kate Knibbs 氏は ポッドキャスト。

「喘息とか糖尿病とか、とにかく病気に関する何かを検索すると、今でもAIによる概要が表示される可能性が非常に高いです。もちろん、全員ではありませんが、それでも約63%です。状況によって変わると思います。」

のような一部の医師は ダリウス・モザファリアン医師、AI概要はいくつかの事実を正しく示し、それを回答にまとめるが、観察研究とランダム化試験からの証拠を区別していないと述べています。

機能が情報を混同することで、誤情報がさらに増幅されます。例えば、「緑茶には抗酸化物質が含まれており、がんの予防に役立つ」という主張は、前者は事実ですが、後者は臨床的に証明されていません。このような主張が併記されると、あたかも信頼できるかのような誤った印象を与えてしまいます。.

GoogleはAI概要を制限している

AIの展開を注視している人々は、健康関連のAI検索結果を利用する際には注意が必要だと警告している。回答の中には 「これは情報提供のみを目的としています」 ニューヨーク・タイムズ紙の 報道 によると、生成型AIはまだ実験段階であり、深刻な症状がある場合は医師に相談すべきだという。 

関連記事： GoogleのコアアルゴリズムアップデートとAI概要により、パブリッシャーのトラフィックが減少している

Googleは5月30日の声明で、一部のカテゴリでAIオーバービューの使用を削減したと発表した。SEO会社BrightedgeのデータはGoogleの見解を裏付けており、この削減は同社の発表以前から始まっていたことを示唆している。. 

他の報道によると、Googleはネットユーザーが意味不明な返信を嘲笑し始める前から、特定のカテゴリにおけるAI概要の表示を縮小し始めていたという。しかしながら、健康カテゴリでは依然としてAI概要の表示が多数表示されているという主張もある。ニブス氏は次のように述べている。

「他の SEO 研究者と話をしたところ、ヘルスケア業界では依然として AI 概要が大量に生成されていることに気付きました。」

ニブス氏は、健康関連の検索クエリをいくつか試してみたところ、数時間後には異なる結果が得られたと述べ、これはGoogleが検索結果の改善に取り組んでいることを示していると語った。彼女は 「確かに彼らは努力している。十分な成果を上げているかどうかは分からないが、 defiなく努力している」と述べた。

Cryptopolitan アーミール・シェイク記者によるレポート