Google AI Overviews 的健康搜索错误引发担忧

Google IA 概览
- 与健康相关的问题正在生成更多 AI 摘要,这令分析师感到担忧。
- 医生表示,将不同来源的事实混合在一起,会使可信度较低的统计数据显得更可信。
- 一些分析师认为,谷歌似乎正在努力改进其 AI 概览,使其更加可靠。
Google正利用人工智能来回答有关健康问题的查询。一些分析师对此表示担忧,因为AI摘要功能可能会提供不可靠的信息。
医疗从业者表示,AI摘要可能会引起担忧,尤其是在回答个人健康问题时。据《纽约时报》最近的一份报告称,他们辩称,尽管该功能可以引导人们获得所需的医疗治疗,但它有可能提供不准确的信息。
AI摘要搜索错误助长AI幻觉情绪
Google推出了AI摘要功能,该功能会生成网站内容的摘要,并将其显示在Google搜索结果页面上。在发布后的几天内,该功能显示出各种各样的不准确之处,因为它是基于有缺陷的来源得出答案的。这一事件进一步助长了AI容易产生幻觉并生成事实错误信息的观点。
延伸阅读: Google限制对讽刺性和无意义查询的AI摘要
与健康相关的搜索结果要求每天摄入摇滚乐,或要求用户吃粘在一起的披萨,这引发了强烈反弹。AI摘要确实引用了世界卫生组织、WebMD、PubMed和梅奥诊所等来源。然而,它们并不局限于这些来源。分析师表示,该工具会从Reddit、维基百科、不同的博客和电子商务网站获取信息。
Google高级产品管理总监Hema Budaraju表示,对于与健康相关的查询有额外的保障措施,但她拒绝透露更多细节。Hema补充说,某些查询不会触发AI摘要,例如,如果系统检测到自残情况。
Google表示,AI摘要与Google知识图谱集成,这是一个包含从多个来源提取的数据的知识库,但未提供关于支持AI辅助搜索功能输出的网站的详细信息。
Google显示更多与健康查询相关的AI摘要
传统结果,通常被称为“十个蓝色链接”,对用户很有帮助,因为他们可以区分信誉良好的医疗来源、付费链接或可信度较低的网站。随着AI摘要的出现,情况发生了变化。现在,一段文本块显示了从不同来源收集的信息,据分析师称,这会导致混淆。
Wired的Kate Knibbs在播客中表示:
“如果你在哮喘或我是否有糖尿病方面输入一些内容,或者基本上如果你正在搜索任何涉及疾病的内容,你今天很有可能仍然会看到AI摘要。我的意思是,并不是每个人;这仍然约占63%。我认为这取决于。”
一些医生,如Dariush Mozaffarian博士,表示AI摘要显示了一些正确的事实并将其总结为答案,但它们无法区分观察性研究和随机试验的证据。
当该功能混淆信息时,又增加了一层错误信息。例如,“绿茶含有抗氧化剂,有助于预防癌症。”前者是正确的,但后者尚未在临床上得到证明。当这些声明并列列出时,它们给人一种它们是可信的虚假印象。
Google已限制AI摘要
观察AI推出的人士建议,在接触与健康相关的AI搜索结果时要谨慎。他们说,用户应考虑某些答案下方的细则,其中写道,“仅供参考。”《纽约时报》报道指出,生成式AI仍处于实验阶段,用户在出现任何严重状况时应咨询医生。
延伸阅读: Google核心算法更新和AI摘要正在减少发布者的流量
Google在5月30日的一份声明中表示,它已减少了一些类别中AI摘要的使用。SEO公司Brightedge的数据证实了Google的立场,表明削减甚至在公司宣布之前就已经开始。
其他报告还表示,在网民开始嘲笑其无意义的回复之前,Google就已经开始回滚某些类别的AI摘要。尽管如此,有说法称健康类别仍显示大量AI摘要。Knibbs表示,
“我与一些其他SEO研究人员交谈过,他们也发现医疗保健领域仍然产生大量AI摘要。”
Knibbs表示,她测试了一些与健康相关的查询,并在几小时内发现了不同的结果,这表明Google正在努力改进结果。她说,“好吧,他们正在尝试。我不知道他们是否做得足够好,但他们肯定在努力。”
Cryptopolitan 报道 / Aamir Sheikh
如果您正在阅读这篇文章,说明您已经领先一步。请继续通过我们的通讯保持关注。
免责声明。 本文提供的信息不构成交易建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资,我们不承担任何责任。我们强烈建议在进行任何投资决策之前,进行独立研究或咨询合格的专业人士。

Aamir Sheikh
Aamir 是一位科技记者,在加密货币和科技行业拥有近六年的经验。他毕业于 MAJ 大学,获得金融与市场营销 MBA 学位。目前他在 Cryptopolitan 工作,报道加密货币市场的最新发展和价格预测。















