GoogleのアナリストがAIの回答は「完璧ではない、人間の脳の代わりにはならない」と警告

Googleのアナリスト、ゲイリー・イリーズ氏は、ChatGPTのような生成型AIチャットボットの基盤となる大規模言語モデルには依然として精度に課題があり、生成されたコンテンツを人間の目で検証する必要があると警告した。この発言は、OpenAIがGoogleと直接競合する新たなAI搭載検索エンジンSearchGPTを発表したわずか数日後のことだった。

イリーズ氏は コメントを が、質問の内容は明かさなかった。同氏は、信頼できる情報源を確認せずにAIの回答を鵜呑みにすべきではないと述べた。OpenAIは、自社の検索ツールで検索エンジン市場におけるGoogleの支配を覆すことを目指している。

AIの回答は必ずしも事実に正確ではない

グーグルに10年以上勤務するイリーズ氏は、AIの回答は事実に近いかもしれないが、「必ずしも事実として正しい」わけではないと述べた。大規模言語モデル（LLM）は、インターネット上に漂う誤った情報から影響を受けてしまう可能性があるからだ、と彼は説明した。.

「LLMはトレーニングデータに基づいて、プロンプトの文脈と意味に最も適した単語、フレーズ、文を見つけます」とイリーズ氏は記している。「これにより、関連性があり一貫性のある応答を生成できます。ただし、必ずしも事実に基づいて正しい応答とは限りません。」

Googleのアナリストは、ユーザーは依然として「法学修士に質問したトピックについての知識、または質問に対する信頼できるリソースに関する追加の読書」に基づいてAIの回答を検証する必要があると述べた。

AI生成コンテンツの信頼性を確保するために開発者が試みてきた方法の一つに、「グラウンディング」と呼ばれる手法があります。これは、機械が生成した情報に人間の要素を注入することでエラーを防ぐプロセスです。イリーズ氏によると、グラウンディングだけでは不十分な可能性があるとのことです。.

「グラウンディングは、より事実に基づいた正確な回答を生み出すのに役立ちますが、完璧ではありません。脳の代わりになるわけではありません」と彼は言いました。「インターネットには、意図的なものも意図的でないものも含め、様々な誤情報が溢れています。オンラインで読んだ全てを信じる人はいないでしょう。なのに、なぜ法学修士課程の回答をしなければならないのでしょうか？」

イーロン・マスク氏、グーグルが公開情報のゲートキーピングを行っていると非難

従来、 Googleなどの検索エンジンやその他の人工知能プラットフォームでは、信頼が常に問題となっており、これらがユーザーに送信する情報に対してどのように制御を行っているかが問題となっていました。

そうしたの一つとして、dent に対する最近の暗殺未遂事件が挙げられるdentドナルド・トランプ前米。イーロン・マスク氏は、Googleがこの銃撃事件をdent 、巨大IT企業の影響力についてソーシャルメディア上で大きな議論を巻き起こした。結果に表示させないようにしたと指摘し

なんと、Google がドナルド・dent 大統領の検索を禁止したのです！

選挙干渉？ pic.twitter.com/dJzgVAAFZA

— イーロン・マスク (@elonmusk) 2024年7月29日

反響が殺到する中、グーグル副社長アナ・モスタラックの名を騙る偽アカウントが、dent をシェアし、議論に火をつけた氏に関するコンテンツをブロックしたとされる同社からの偽の謝罪文。

「…人々の情報ニーズは高まり続けているため、検索は進化と改善を続けていきます。しかし、正確性とは何かを再考する必要があるようです。正確性は主観的なものであり、正確さの追求は物事の達成を妨げる可能性があります」と、偽アカウントはXに投稿しました。.

「当社のチームは、正確さへのこだわりが将来のビジョンのtracにならないよう、懸命に取り組んでいますのでご安心ください」と付け加えた。.

Xのコミュニティノートでは、このツイートはすぐにフラグ付けされ、Googleの副社長になりすましていると指摘されました。これは、情報がいかに簡単に歪曲されるかを示す例であり、人間による確認なしにはAIモデルは正確な情報とそうでない情報を判別できない可能性があることを示しています。.