米議員、AI概要機能についてGoogleに説明要求

アダム・シフ下院議員をはじめとする複数の米国下院議員が、Googleに対し、同社の「AI概要」機能について説明を求めている。Google検索エンジンに統合されたこのツールは、AIを用いて情報を要約する。

シフ議員をはじめとする議員らは、 書簡を送った 。書簡にはさらに、このAIが風刺サイトから情報を収集し、既に否定されている陰謀論を引用することで、何も知らないユーザーに誤った情報を提供していると記されている。 

手紙は誤情報の懸念を引き起こす

シフ氏は 強調した 、特に多くのアメリカ人にとってGoogleがニュースや健康情報の主要な情報源となっている現状において、偽情報のリスクを 

関連記事： AIに関する物語が加速、複数の資産に対するセンチメントが強気に転じる

議員らはまた、誤情報のリスクについてユーザーにどのように通知されるのか、また、誤った情報を訂正または削除するまでの期間についても知りたいと考えている。 

GoogleのAI概要機能は、Gemini AIモデルを用いて上位表示ページから情報をtracし、リンク付きの要約を提供します。しかし、この機能は誤った情報や誤解を招く情報を提供しているとして非難されています。例えば、ビタミン補給のために岩石を摂取するようアドバイスしたり、バラク・オバマの宗教を推奨したりするなどです。 

最近の論争はAI生成コンテンツの問題を浮き彫りにしている

2024年5月、Googleは米国でAI Overviewsをリリースした直後、チーズをくっつけるためにピザに接着剤を加えることを提案する機能があったとして批判を受けました。記事執筆時点で、Googleは議員からの書簡に直接回答していません。 

機能 概要Googleの副社長兼検索部門責任者であるリズ・リード氏は、ブログ記事の中で、dent に問題があることを説明しました。リード氏は、AIの問題点の1つとして、質問に対する回答が十分な質の高いデータに裏付けられていない場合、AIの性能が低下することを挙げました。例えば、ユーザーが特定のトピックや珍しいトピック、あるいは風刺を含むトピックを入力した場合、AIは限られた情報源から回答を選択しますが、その情報源が信頼できない場合もあると指摘しました。 

出版社への経済的影響についても議論されています。GoogleなどのAIベースの検索エンジンは、異なる情報源から得たコンテンツの要約を表示する一方で、トラフィックを元のコンテンツ提供者に誘導しない可能性があり、出版社の収益に影響を及ぼす可能性があります。こうした状況を受けて、カリフォルニア州では、テクノロジー企業がコンテンツを利用する際に出版社への支払いを推奨する立法措置が取られています。