最新新闻
为您推荐

Anthropic 联合创始人称 AI 系统可能能够从 2028 年起重建自身

作者Ibiam WayasIbiam Wayas 2 分钟阅读
Anthropic 联合创始人称 AI 系统可能能够从 2028 年起重建自身
  • Anthropic 的 Clark 表示,AI 系统可能具备从 2028 年起自我重建的能力。
  • 他指出,大多数模型已经具备完全自动化端到端研发所需的一切。
  • “我无法理解这一点,”Clark 说。

Anthropic 的联合创始人 Jack Clark 做出了一个大胆预测,称 AI 系统可能具备从 2028 年起重建自身的能力。“我不确定社会是否准备好了,”他说。

Clark 在周一发布的一篇 Substack 文章中明确指出,到 2028 年底,AI 具备递归自我改进能力的概率为 60%。“换句话说,AI 系统可能很快就能构建自身,”他写道。
​
克拉克列举了他的论点,引用了“数百个公开数据源”,并指出前沿人工智能公司正在部署产品的趋势。他认为,所有必要的基础设施已经到位,使人工智能系统能够进行研究并构建自己的后继者。

人工智能系统现在需要更少的人工监督

克拉克的论点基于两点。人工智能系统在编写和测试真实世界代码方面变得强大得多。此外,它们现在可以在没有人工监督的情况下独立工作更长的时间。
​
在编码方面,克拉克提到了SWE-Bench,这是一个广泛使用的评估,测试人工智能能否解决实际的GitHub问题。该基准测试于2023年推出时,最佳模型的得分约为2%。然而,如今Anthropic的Claude Mythos Preview得分高达93.9%。
​
Claude Mythos Preview 已于 4 月早些时候推出。目前公众尚无法使用,Cryptopolitan 报道。
​
他还引用了METR的数据,这是一家评估前沿人工智能模型的组织。数据显示,人工智能系统在没有人类干预的情况下可靠工作的时间范围已从2022年(GPT-3.5)的约30秒增长到2026年(Opus 4.6)的约12小时。

“这是一件大事,”Anthropic的杰克·克拉克说

其含义是,在一两年内,人工智能系统将变得足够有创造力,能够形成自己的新研究路径,并完善和训练其继任者,特别是非前沿模型,整个过程无需人类参与。克拉克表示,对于前沿模型来说,这可能会困难得多,因为它们昂贵得多。
​
如果人工智能系统能够在没有人类参与的情况下进行自己的研发,人工智能进步的步伐将不再受限于人类研究人员的数量或工作日的长度。
​
“我不知道该如何理解它,”Clark 写道。“这是一种勉强的观点,因为其影响如此巨大,让我感到自惭形秽,而且我不确定社会是否准备好迎接实现自动化 AI 研发所带来的各种变革。”
​
克拉克的预测也与METR预测员Ajeya Cotra最近的一项声明相符,即人工智能系统应该能够自主处理需要大约100小时熟练人工努力的任务,到今年年底。
​

​
今年8月,Anthropic的联合创始人表示:“任何认为人工智能正在放缓的人都是严重误判的。”

最聪明的加密领域人士已经在阅读我们的通讯。想加入吗?加入他们。

常见问题

Jack Clark 是谁?为什么他的 AI 观点如此重要?

Jack Clark 是 Anthropic 的联合创始人,Anthropic 是领先的前沿人工智能公司之一。他还是《Import AI》通讯的作者,该通讯专注于人工智能研究,已持续出版超过 450 期。他在大型实验室中的职位以及分析公开研究的记录,使他的预测在人工智能政策与研究界具有重要分量。

在此语境下,“递归式自我改进”是什么意思?

根据 Clark 的文章,这指的是具备足够强大能力的人工智能系统,能够自主开展自身的研究与开发,并在无需人类参与的情况下构建自己的继任者。他估计,到 2028 年底,这种能力出现的概率为 60% 或更高。

Clark 引用了哪些证据来支持他的预测?

Clark 提到了包括 SWE-Bench 在内的基准测试结果:顶尖人工智能模型在 2023 年至 2026 年间,在现实世界编码任务上的成功率从 2% 提升至 93.9%;METR 数据显示,人工智能系统现在可以独立完成任务约 12 小时,而 2022 年仅为 30 秒。

分享本文
Ibiam Wayas

Ibiam Wayas

Ibiam Wayas自2019年起一直负责加密货币新闻报道。他在尼日利亚国家开放大学攻读计算机科学专业。他的作品曾刊登于多个加密货币新闻平台,包括Coinfomania、Crypto News Australia和AltcoinBuzz。凭借其在计算机科学领域的背景,他目前专注于加密货币、机器人技术和长寿领域的新闻。

更多新闻…