最新新闻
为您推荐

研究发现ChatGPT在基础数学方面存在困难

作者John PalmerJohn Palmer 3 分钟阅读
ChatGPT

照片 2023 08 06 23 22 19

  • AI模型中的漂移现象带来挑战,导致某些功能增强时产生非预期的后果。
  • ChatGPT在基础数学及其他任务上的表现下降,凸显了AI模型持续进步的复杂性。
  • 随着AI系统随时间演变,保持警惕和严格监控对于理解和优化这些系统至关重要。

在快速发展的科技世界中,人工智能(AI)聊天机器人已成为一项重大突破。其中,OpenAI的ChatGPT脱颖而出,自去年公开推出以来便吸引了大量受众。其进行流畅对话的能力赢得了赞誉,并引发了一场全球范围内竞相开发更先进AI模型的激烈竞赛。然而,在掌声和对AI潜在主导地位的担忧之中,最近的发现揭示了一个意想不到的发展:ChatGPT在基础数学方面的熟练度正在下降。

理解AI“漂移”现象

AI中的“漂移”一词不仅仅是一个流行语。它是一个真实存在的、已观察到的现象,引起了学术界的关注。斯坦福大学与加州大学伯克利分校之间的合作研究努力,揭示了AI行为中这一引人入胜的方面。

“漂移”的本质在于模型优化带来的意外后果。随着研究人员和开发人员努力增强这些复杂AI模型的某些功能,其他领域可能会无意中受损。这正是ChatGPT正在发生的事情。

斯坦福大学著名教授、该研究的关键贡献者James Zou阐明道:“当你调整模型以在某个特定方向上增强它时,它在其他领域退化的风险是切实存在的。”这种内在挑战凸显了实现AI模型持续进步的复杂性。

深入探究衰退原因

这项研究并非对ChatGPT能力的粗略一瞥。它是由斯坦福大学勤奋的计算机科学博士生Lingjiao Chen和伯克利大学的知名人物Matei Zaharia主导的细致分析。他们的目标很明确:评估两个不同版本的ChatGPT在一段时间内的表现。

他们的发现令人震惊。人们会认为,识别质数对于计算机来说是一项相对简单的任务,对于如此先进的AI来说应该易如反掌。然而,结果却讲述了不同的故事。

在3月进行的一项测试中,ChatGPT的高级版本GPT-4面对1,000个不同的数字。它成功正确判断了其中84%的数字是否为质数。快进到6月,其准确率骤降至仅51%。这并不是孤立事件。在八项不同的任务中,GPT-4的表现中有六项恶化。虽然GPT-3.5在六个方面有所改善,但总体上仍落后于其继任者。

快速漂移的影响

虽然“漂移”在AI爱好者中是一个公认的概念,但它在ChatGPT中显现的速度出乎意料。研究团队的观察超出了数学任务。他们注意到GPT-4对以观点为中心的查询的响应率明显下降。从3月值得称赞的98%响应率,到6月 dwindled 至23%。

这种退化可能与日益兴起的“提示工程”趋势有关。这涉及用户构建特定的提示,以提取特定(有时是有争议的)AI响应。ChatGPT数学能力的退化可能是为应对此类操纵性提示而采取措施的意外后果。

驾驭AI的未来

尽管存在障碍,但共识,尤其是在研究社区中,并不是抛弃这项技术。相反,重点在于警惕。Zou热情倡导采取更严格的监控方法。伯克利和斯坦福的联合团队也echoing his sentiments,准备对包括ChatGPT在内的AI模型进行一系列测试。他们的目标?通过实证评估它们随时间的演变。

AI进步的道路并非线性。这是一段动态的旅程,标志着前进的步伐、偶尔的跌倒和意想不到的转弯。随着全球社区继续导航AI的复杂迷宫,有一点是显而易见的:理解和完善这些系统的旅程远未结束。

如果您正在阅读这篇文章,说明您已经领先一步。请继续通过我们的通讯保持关注。

分享本文

免责声明。 本文提供的信息不构成交易建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资,我们不承担任何责任。我们强烈建议您在做出任何投资决策前进行独立研究或咨询合格的专业人士。

John Palmer

John Palmer

John Murangiri 带着市场分析技能加入 Cryptopolitan。John(又名 JP)毕业于内罗毕大学,获得大众传播与媒体研究学士学位。他曾为 InsideBitcoins.com 和 Metacoingraph 贡献加密货币市场洞察。

更多新闻…