Google AI 概览的健康搜索错误引发担忧

谷歌正在利用人工智能来回答有关健康问题的查询。一些分析人士对此表示担忧，因为人工智能概览功能可能会提供不可靠的信息。.

据《纽约时报》近期报道，医疗从业者表示，人工智能概览功能可能存在隐患，尤其是在回答个人健康问题时。他们认为，尽管该功能可以引导人们接受必要的医疗治疗，但它也可能提供不准确的信息。.

AI概述搜索错误助长了AI幻觉情绪

谷歌推出了AI概览功能，该功能可以生成网站内容的摘要并显示在谷歌搜索结果页面上。然而，该功能上线几天后就暴露出诸多错误，因为它所依据的信息来源存在缺陷。这一事件进一步加剧了人们对人工智能容易产生错觉并生成不实信息的担忧。.

另请阅读： 谷歌限制人工智能概览功能对讽刺性和无意义查询的使用

一些健康类搜索结果，例如建议用户每天服用一定剂量的岩石或食用粘在地上的披萨，已经引发了强烈反弹。人工智能概览工具确实会引用世界卫生组织、WebMD、PubMed 和梅奥诊所等机构的信息来源，但其来源并不局限于此。分析人士指出，该工具还会从 Reddit、维基百科、各种博客和电商网站等渠道获取信息。.

谷歌高级产品管理总监赫玛·布达拉朱表示，针对健康相关的查询，系统设置了额外的安全防护措施，但她拒绝透露更多细节。赫玛补充说，某些查询不会触发人工智能概览，例如，如果系统检测到自残情况。.

谷歌表示，AI Overviews 与 Google Knowledge Graph（一个包含从多个来源提取的数据的知识库）集成，但没有提供有关支持 AI 辅助搜索功能输出的网站的详细信息。.

谷歌针对健康查询展示了更多人工智能概览

传统的搜索结果，通常被称为“十个蓝色链接”，对用户很有帮助，因为他们可以从中区分权威的医疗资源和付费链接或可信度较低的网站。但随着人工智能概览的出现，情况发生了变化。现在，一段文字会显示从不同来源收集的信息，分析人士认为，这会造成混乱。.

Wired杂志的凯特·尼布斯在 播客：

“如果你搜索‘哮喘’或者‘我是否患有糖尿病’，或者基本上任何与疾病相关的内容，直到今天你仍然很可能会看到人工智能提供的概览。我的意思是，虽然不是每个人都能看到，但仍然有大约 63% 的人会看到。我认为这取决于具体情况。”

一些医生，例如 达里乌什·莫扎法里安医生，表示人工智能概述显示了一些正确的事实，并将其总结为答案，但它们没有区分来自观察性研究和随机试验的证据。

当这种功能混淆信息时，就会造成另一层误导。例如，“绿茶含有抗氧化剂，有助于预防癌症。”虽然前者属实，但后者尚未得到临床证实。当这些说法并列在一起时，会给人一种它们都可信的错觉。.

谷歌限制了人工智能概览功能。

关注人工智能推广的人士建议，在浏览与健康相关的AI搜索结果时应保持谨慎。他们表示，用户应仔细阅读某些答案下方的 “仅供参考”字样。 纽约时报的 报道 指出，生成式人工智能仍处于实验阶段，用户如有任何严重健康问题，应咨询医生。 

另请阅读： 谷歌核心算法更新和人工智能概览正在减少发布商的流量

谷歌在5月30日的一份声明中表示，已减少部分类别中人工智能概览的使用。搜索引擎优化公司Brightedge的数据证实了谷歌的说法，表明减少人工智能概览的使用甚至在谷歌正式宣布之前就已经开始。. 

其他报道也指出，早在网友开始嘲讽谷歌的AI概览功能提供无意义的回复之前，谷歌就已经开始撤回某些类别的AI概览功能。尽管如此，仍有人声称健康类别的AI概览功能仍然数量众多。克尼布斯表示，

“我和其他一些SEO研究人员交流过，他们也发现医疗保健领域仍然有很多AI概述。”

克尼布斯说，她测试了一些与健康相关的搜索查询，并在几个小时内发现了不同的结果，这表明谷歌正在努力改进搜索结果。她说： “好吧，他们确实在努力。我不知道他们做得是否足够好，但他们 defi在努力。”

Cryptopolitan 报道，作者：Aamir Sheikh