Googleアナリスト、AIの回答は「完璧ではなく、あなたの脳を置き換えることはできない」と警告

GoogleアナリストのGary Illyesは、ChatGPTなどの生成AIチャットボットの背後にある技術である大規模言語モデル（LLM）が、まだ精度のギャップを持っており、生成するコンテンツを検証するために人間の目が必要だと警告しました。このコメントは、OpenAIが SearchGPT、Googleと直接競争する新しいAI搭載検索エンジンを立ち上げてから数日後に出されました。 

Illyesは、受信トレイで受け取った質問への回答としてLinkedInでコメントを共有しましたが、質問の内容については言及しませんでした。彼は、AIの回答を他の権威あるソースで確認せずに信頼すべきではないと述べています。OpenAIは、その検索ツールが検索エンジン市場でのGoogleの支配を覆すことを目指しています。

AIの回答は「必ずしも事実上正しいわけではない」

Googleで10年以上勤務しているIllyesは、AIの回答が事実に近い場合でも、「必ずしも事実上正しいわけではない」と述べました。これは、大規模言語モデル（LLM）がインターネット上に浮遊する誤った情報に依存することに免疫がないためだと、彼は説明しました。

「LLMは、トレーニングデータに基づいて、プロンプトの文脈と意味に一致する最も適切な単語、フレーズ、および文を見つけます」とIllyesは書きました。「これにより、関連性があり一貫性のある回答を生成できます。しかし、必ずしも事実上正しい回答ではありません。」

Googleアナリストは、ユーザーが「LLMに質問したトピックについてあなたが知っていること」または「あなたのクエリに対して権威あるリソースでの追加の読み物」に基づいてAIの回答を検証する必要があると述べています。

開発者がAI生成コンテンツの信頼性を確保しようとした一つの方法は、「グラウンディング」と呼ばれる実践です。このプロセスには、エラーを防ぐために機械作成の情報に人間の要素を注入することが含まれます。Illyesによると、グラウンディングだけでは不十分かもしれません。

「グラウンディングはより事実上正しい回答を作成するのに役立ちますが、完璧ではありません。あなたの脳を置き換えるものではありません」と彼は言いました。「インターネットは意図的および意図しない誤情報で満ちており、オンラインで読むすべてのものを信じないでしょう。なぜLLMの回答を信じるのですか？」

Elon Musk、Googleが公共情報のゲートキーピングを非難

伝統的に、Googleのような検索エンジンや他の人工知能プラットフォーム、およびそれらがユーザーに提供する情報に対して行使する制御の信頼性は常に問題となってきました。Google

そのような事件の一つに、元米国大統領ドナルド・トランプの最近の暗殺未遂事件が含まれます。Elon Musk 示唆しました。Googleが検索結果からこの銃撃事件の表示を禁止したとされ、ビッグテックの影響力についてソーシャルメディアで大規模な議論を巻き起こしました。

Wow、Googleはドナルド・トランプ大統領に対する検索禁止を持っている！

選挙干渉？ pic.twitter.com/dJzgVAAFZA

— エロン・マスク (@elonmusk) 7月 29日、 2024

応答の嵐の中で、Google副社長Ana Mostaracを装ったなりすましアカウントが議論に加わり、トランプに関するコンテンツのブロックについて同社からの偽の謝罪を共有しました。

「…人々の情報ニーズは増え続けており、私たちはSearchを進化させ改善し続けます。しかし、正確さの意味を再調整する必要があるようです。正確さは主観的であり、正確さの追求が物事を成し遂げる妨げになることがあります」と、偽のアカウントはXに投稿しました。

「私たちのチームが正確さへの敬意が私たちの将来のビジョンの妨げとなる混乱にならないようにするために懸命に働いていることを保証できます」と、それは付け加えました。

Xのコミュニティノートはすぐにこのツイートをフラグ付けし、その人物がGoogle副社長になりすましていると言いました。これは、情報がどのように容易に歪められるか、および人間のレビューなしにAIモデルが正確かどうかを区別できない可能性があるかの例です。