- 谷歌分析师加里·伊利斯指出，大型语言模型在准确性方面仍存在不足。
- 这些模型需要人工审核以确保其生成内容的准确性。
- 他表示，人们不应盲目信任 AI 的回答，而应查阅权威来源进行核实。
Google分析师Gary Illyes警告说，大型语言模型——像ChatGPT这样的生成式AI聊天机器人的技术——在准确性方面仍存在差距，需要人眼来验证其生成的内容。这些评论是在OpenAI推出 SearchGPT, 一个将直接与Google竞争的新AI驱动搜索引擎后的几天。
Illyes在LinkedIn上分享了评论，以回应他收件箱中收到的问题，但未说明问题是什么。他表示，人们不应盲目信任AI响应，而应检查其他权威来源。OpenAI旨在使其搜索工具颠覆Google在搜索引擎市场的统治地位。
AI响应“不一定在事实上是正确的”
Illyes在Google工作超过十年，他表示虽然AI答案可能接近事实，但它们“不一定在事实上是正确的”。他解释说，这是因为大型语言模型（LLM）无法免疫从互联网上漂浮的错误信息中汲取养分。
“基于他们的训练数据，LLM找到与提示的上下文和意义最相符的最合适的单词、短语和句子，”Illyes写道。“这使他们能够生成相关且连贯的响应。但不一定是事实正确的。”
Google分析师表示，用户仍然需要根据“你关于你向LLM提问的主题的知识”或“对你查询具有权威性的资源的额外阅读”来验证AI答案。
开发人员尝试确保AI生成内容可靠性的方法之一是通过一种称为“接地”的做法。该过程涉及将机器创建的信息注入人类元素，以防止错误。根据Illyes的说法，接地可能仍然不够。
“接地可以帮助创建更多事实正确的响应，但它并不完美；它不能替代你的大脑，”他说。“互联网充满了有意和无意的错误信息，你不会相信你在网上读到的一切，那么为什么你会相信LLM响应呢？”
Elon Musk指责Google对公共信息进行把关
传统上，信任一直是搜索引擎如Google和其他人工智能平台的问题，以及它们如何对用户提供的信息施加控制。
此类事件之一涉及最近对美国前总统唐纳德·特朗普的暗杀企图。Elon Musk 建议 Google禁止其搜索结果中出现枪击事件，引发了关于大型科技公司影响力的重大社交媒体辩论。
哇，Google对总统Donald Trump有搜索禁令！
选举干预？ pic.twitter.com/dJzgVAAFZA
— 埃隆·马斯克 (@elonmusk) 7 月 29, 2024
在 flurry 的回应中，一个冒充Google副总裁Ana Mostarac的假冒账户加入了辩论，分享了一份来自该公司的虚假道歉，据称该公司阻止了有关Trump的内容。
“……人们的信息需求持续增长，所以我们将不断进化和改进搜索。然而，似乎我们需要重新校准我们对准确的定义。什么是准确的是主观的，对准确的追求可能会妨碍事情的进展，”该假冒账户在X上发布。
“你可以放心，我们的团队正在努力工作，以确保我们对准确的敬畏不会成为妨碍我们未来愿景的干扰，”它补充道。
X上的社区笔记立即标记了这条推文，称此人冒充Google副总裁。这是一个信息容易被扭曲的例子，如果没有人工审查，AI模型可能无法辨别什么是准确的。
不要只是阅读加密货币新闻，要真正理解它。订阅我们的通讯。 免费。
免责声明。 本文提供的信息不构成交易建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资，我们不承担任何责任。我们强烈建议在进行任何投资决策之前，进行独立研究或咨询合格的专业人士。
Jeffrey Gogo
Jeffrey Gogo 是一位拥有 20 年商业、金融及气候变化新闻与分析经验的记者。他的作品曾发表于汤森路透基金会、《津巴布韦先驱报》以及多家在线出版物。他还广泛撰写过关于人工智能和元宇宙的文章，并于 2017 年开始涉足加密货币市场。Gogo 在哈拉雷的 CCOSA 学习了新闻与大众传播专业。
