アダム・シフ下院議員をはじめとする複数の米国下院議員が、Googleに対し、同社の「AI概要」機能について説明を求めている。Google検索エンジンに統合されたこのツールは、AIを用いて情報を要約する。
シフ議員をはじめとする議員たちは、書簡を送付した。書簡ではさらに、このAIが風刺的なウェブサイトから情報を取得し、既に反証されている陰謀論を引用することで、何も知らないユーザーに誤った情報を提供していると指摘している。
手紙は誤情報の懸念を引き起こす
シフ氏は、特に多くのアメリカ人にとってGoogleがニュースや健康情報の主要な情報源となっている現状において、偽情報のリスクを強調した
関連記事： AIに関する物語が加速、複数の資産に対するセンチメントが強気に転じる
議員らはまた、誤情報のリスクについてユーザーにどのように通知されるのか、また、誤った情報を訂正または削除するまでの期間についても知りたいと考えている。
GoogleのAI概要機能は、Gemini AIモデルを用いて上位表示ページから情報をtracし、リンク付きの要約を提供します。しかし、この機能は誤った情報や誤解を招く情報を提供しているとして非難されています。例えば、ビタミン補給のために岩石を摂取するようアドバイスしたり、バラク・オバマの宗教を推奨したりするなどです。
最近の論争はAI生成コンテンツの問題を浮き彫りにしている
2024年5月、Googleは米国でAI Overviewsをリリースした直後、チーズをくっつけるためにピザに接着剤を加えることを提案する機能があったとして批判を受けました。記事執筆時点で、Googleは議員からの書簡に直接回答していません。
Googleの副社長兼検索責任者であるリズ・リード氏もブログ投稿で、 dent概要機能に問題があると説明しました。リード氏は、AIの課題の一つとして、質問が十分な高品質データに裏付けられていない場合、AIのパフォーマンスが低下することを指摘しました。例えば、ユーザーが特定のトピックや珍しいトピック、あるいは風刺を含むトピックを入力した場合、AIは限られた情報源から回答を選択し、その情報源が信頼できない場合もあると指摘しました。
出版社への経済的影響についても議論されています。GoogleなどのAIベースの検索エンジンは、異なる情報源から得たコンテンツの要約を表示する一方で、トラフィックを元のコンテンツ提供者に誘導しない可能性があり、出版社の収益に影響を及ぼす可能性があります。こうした状況を受けて、カリフォルニア州では、テクノロジー企業がコンテンツを利用する際に出版社への支払いを推奨する立法措置が取られています。
