- 健康関連の質問によりAIサマリーが増加しており、これはアナリストにとって懸念事項です。
- 医師たちは、異なるソースからの事実を組み合わせることで、信頼性の低い統計がより信頼できるように見えると述べています。
- 一部のアナリストは、GoogleがAI Overviewsをより信頼性のあるものにするために取り組んでいるようだとの見解を示しています。
Googleは、健康問題に関するクエリに答えるために人工知能を使用しています。一部の分析家は、AIオーバービュー機能が信頼性の低い情報を提供可能性があるため、これを懸念しています。
医療従事者は、AIオーバービューが懸念事項になると述べています。特に、個人の健康に関するクエリに答える際には注意が必要です。彼らは、この機能が必要な医療治療への道標となる可能性はあるものの、不正確な情報を提供してしまう可能性がある argued しています。これはニューヨーク・タイムズの最近の報道によるものです。
AIオーバービューの検索エラーがAIの幻覚（ハルシネーション）への懸念を煽る
Googleは、ウェブサイトからのコンテンツの要約を生成し、Googleの検索結果ページに表示する機能「AIオーバービュー」を導入しました。発売から数日後、この機能は誤った情報源に基づいて回答を生成したため、幅広い不正確さが示されました。これは、AIが幻覚を起こしやすく、事実に反する情報を生成する可能性があるという認識をさらに煽る出来事となりました。
関連記事: Googleは、風刺的かつ意味不明なクエリに対するAIオーバービューを制限
健康関連の検索結果で毎日のロック（音楽）を摂取したり、糊付けされたピザを食べたりするようユーザーに促したりする内容は、反発を招きました。AIオーバービューは、世界保健機関（WHO）、WebMD、PubMed、メイオ・クリニックなどの情報源を引用しています。しかし、それらの情報源に限定されているわけではありません。分析家は、このツールがReddit、Wikipedia、さまざまなブログ、ECサイトから情報を引き出していると言っています。
Googleのシニアプロダクトマネジメントディレクターであるヘマ・ブダラジュ氏は、健康関連のクエリには追加のガードレールがあるが、さらなる詳細は明かさないと言いました。ヘマ氏は、システムが自傷行為の状況を察知した場合など、一部のクエリはAIオーバービューをトリガーしないと付け加えました。
Googleは、AIオーバービューがGoogleナレッジグラフ（複数の情報源から引き出したデータを含む知識ベース）と統合されていると述べていますが、AI支援検索機能の出力を支えるウェブサイトに関する詳細は提供していません。
Googleは健康関連のクエリに対してAIオーバービューをより多く表示
従来の結果（しばしば「10個の青いリンク」と呼ばれる）は、信頼性の高い医療情報源と有料リンクや信頼性の低いウェブサイトを見分けることができたため、ユーザーにとって有用でした。AIオーバービューでは状況が変わりました。現在、単一のテキストブロックに異なる情報源から集められた情報が表示され、これが分析家によれば混乱を招いています。
Wiredのケイト・ニブスは、ポッドキャストで次のように述べています：
「喘息や糖尿病を持っているかどうか、あるいは病気に関連するあらゆるものを検索する場合、今日でもAIオーバービューを見る可能性が非常に高いです。全員がそうなるわけではありませんが、まだ約63％です。そして、それは状況によると思います。」
ダリウス・モザファリアン博士などの一部の医師は、AIオーバービューは正しい事実を示し、それらを回答に要約するものの、観察研究と無作為化比較試験からの証拠を区別していないと述べています。
機能が情報を混同する際に、誤情報の別の層が追加されます。例えば、「緑茶には抗酸化物質が含まれており、がんの予防に役立ちます」という文があります。前者は真実ですが、後者は臨床的に証明されていません。このような主張が並べてリストされると、それらが信頼性があるという誤った印象を与えます。
GoogleはAIオーバービューを制限した
AIの展開を観察する人々は、健康関連のAI検索結果に接する際に注意を促しています。彼らは、ユーザーが「これは情報提供のみを目的としています」という回答の細則を考慮すべきだと述べています。「これは情報提供のみを目的としています。」ニューヨーク・タイムズの報道によると、生成AIは実験段階にあり、重大な症状がある場合は医師に相談すべきです。
関連記事: Googleのコアアルゴリズムの更新とAIオーバービューがパブリッシャーのトラフィックを減少させている
5月30日の声明で、Googleは一部のカテゴリにおけるAIオーバービューの使用を削減したと述べました。SEO企業のBrightedgeのデータはGoogleの立場を裏付け、発表以前から削減が始まっていたことを示唆しています。
他の報告書でも、ネットユーザーが意味不明な返信でGoogleを嘲笑し始めた以前から、Googleが特定のカテゴリにおけるAIオーバービューの展開を撤回し始めたことが示されています。それでもなお、健康カテゴリではAIオーバービューが多数表示され続けているという主張があります。ニブス氏は次のように述べています：
「他のSEO研究者と話しましたが、彼らも医療分野でまだ多くのAIオーバービューが生成されていることを発見しました。」
ニブス氏は、健康関連のクエリをいくつかテストしたところ、試行から数時間以内に異なる結果が得られたと述べ、Googleが結果の改善に取り組んでいることを示していると語りました。彼女は「OK、彼らは試みている。それが十分良い仕事かどうかはわからないが、確かに試みている。」と述べています。
CryptopolitanによるAamir Sheikhのレポート
これをお読みいただいているあなたは、すでに一歩先を行っています。当社のニュースレターでその先を行ってください。
免責事項。 ここに提供される情報は取引助言ではありません。 Cryptopolitan.com 当社は、このページに提供される情報に基づいて行われたいかなる投資に対しても責任を負いません。いかなる投資判断を下す前に、独立した調査および/または資格を有する専門家への相談を強く推奨します。
アミール・シェイク
Aamir氏は、暗号資産およびテクノロジー業界でほぼ6年の経験を持つテックジャーナリストです。MAJ大学を修了し、財務・マーケティング分野でMBAを取得しました。現在はCryptopolitanで勤務し、暗号資産市場の最新動向や価格予測について報じています。
