Google 限制对讽刺性和无意义查询的 AI 概览

Google正在减少某些搜索结果中AI摘要的展示。这一决定是在搜索巨头犯下一些公开错误并引发互联网公众反弹之后做出的。

周四，Google搜索负责人Liz Reid承认，该公司正在限制被称为“AI摘要”的AI生成摘要。当该AI功能开始显示告诉人们吃石头和把奶酪粘在披萨上的内容时，受到了批评。

延伸阅读： Google、OpenAI和其他13家公司承诺不部署高风险AI模型

Google在年度I/O活动后两周开始在美国向用户展示AI摘要，在该活动中，Google推出了几种基于AI的产品。从周四开始，用户注意到问题减少，导致AI响应减少。

识别虚假AI摘要需要仔细分析

Reid在博客文章中写道，社交媒体上分享了AI摘要建议奇怪解决方案的截图。她说公司的AI犯了一些错误，但许多是伪造的，并非由Google的AI系统生成。

她承认，一些奇怪或不准确的AI摘要确实出现了。这突出了该功能需要改进的领域，但它们不是常见搜索查询。指出这些伪造内容时，她说，

“此外，有大量伪造的截图被广泛分享。其中一些伪造结果是明显且愚蠢的。”

Reid表示Google没有展示任何 AI 摘要 关于怀孕期间吸烟或将狗留在车内的主题。她鼓励用户在社交媒体上看到这些截图时自行搜索并核实。

Google的AI现在可以识别讽刺内容

Google确定讽刺内容和不合逻辑的查询是产生不准确AI摘要需要解决的领域。Google表示，在“我应该吃多少石头？”这一查询的截图走红之前，没有人问过这个问题。Reid表示，可以通过Google Trends进行确认。

延伸阅读： Opera集成Google的Gemini模型以增强Aria浏览器AI

另一个因素是特定主题的内容非常少，也称为数据空洞，这也是导致不准确AI摘要的原因。关于吃石头查询，Reid表示，内容的讽刺性质触发了AI摘要。该内容还被一个地质软件网站重新发布，AI摘要链接到了该网站。她澄清道，

“因此，当有人将这个问题输入搜索时，出现了一个AI摘要，忠实地链接到解决该问题的少数网站之一。”

Reid没有提到社交媒体上流传的其他AI摘要，许多大型出版商也发布了关于它们的报道。例如，《华盛顿邮报》发布了一篇关于Google告诉人们Barack Obama是穆斯林的文章。该出版物还报道了另一个实例，Google AI摘要告诉用户喝尿液以帮助排出肾结石。

Google对公共论坛有着执念

Google搜索主管指出，该公司在将功能推向公众之前进行了广泛测试。她还承认，现实世界的使用习惯在测试阶段难以模拟，但公司进行了强大的红队测试和典型用户查询的抽样。 

延伸阅读： Google的AI摘要功能因不准确结果面临反弹

一些用户和互联网内容分析师指出，Google最近开始展示来自Reddit等公共论坛的许多结果。有人质疑Google与Reddit的交易，但Google发言人告诉BBC，没有这样的条款是给予Reddit更多搜索可见性的协议的一部分。

Amsive（一家营销机构）的SEO战略和研究副总裁Lily Ray表示，现在许多查询显示来自Reddit的结果。她还在X帖子（前Twitter）中嘲笑Google，说全世界的知识（Reddit内容）与AI相结合。

女士们先生们，全世界的知识，结合AI的力量和一个Reddit喷子。pic.twitter.com/jhzT2pGXjh

— Lily Ray 😏 (@lilyraynyc) 5 月 21, 2024

Reid表示，AI摘要功能在某些示例中包含了讨论论坛中的讽刺内容。她说论坛是 firsthand 信息的良好来源，但在某些情况下，它们可能会触发不太有帮助的答案，例如把奶酪粘在披萨上。

Google的AI还会误解语言，导致AI摘要中出现错误信息，但根据该公司，此类答案的比例非常低。Reid指出，他们通过改进或移除不符合Google政策的响应来迅速解决这些问题。

Google搜索的副总裁还表示，对于健康和新闻等主题存在强大的护栏。该公司推出了新的触发细化措施，以增强对健康的保护。Reid表示，检测系统也已更新，以处理不合逻辑的查询，以免将其显示为AI摘要。她还暗示将减少讽刺查询的AI摘要确认，并表示， “我们更新了系统，以限制在可能提供误导性建议的响应中使用用户生成内容。”

Cryptopolitan 报道 / Aamir Sheikh