微软首席技术官为 AI 扩展定律辩护

在近期接受Sequoia Capital的Training Data播客采访时，微软首席技术官凯文·斯科特重申了他对大型语言模型（LLM）扩展定律持久价值的信念。 

延伸阅读： 人工智能应用将包含突出风险和测试的“安全标签”

斯科特在微软和OpenAI之间130亿美元的交易中发挥了重要作用，他对持续进步的潜力保持乐观。他回应了正在进行的辩论，表示扩展定律的概念仍然与人工智能领域相关。

OpenAI研究支持扩展带来的好处

OpenAI研究人员在2020年提出的LLM扩展定律指出，语言模型的效率随着模型规模的增加而成比例提高。斯科特驳斥了边际收益递减定律，表示实现指数级增长仍然是可能的，但这可能需要下一代超级计算机才能实现。 

虽然一些学者质疑扩展定律的可持续性，但OpenAI仍然将其作为其人工智能计划的关键组成部分。斯科特的言论与微软对这些原则的方法一致，这意味着这家科技巨头没有停止开发更大人工智能模型的意图。

人工智能社区辩论未来模型的改进

斯科特的立场与一些人工智能批评者截然相反，他们认为增长在GPT-4和其他类似模型处停滞。一些批评者引用了最新模型，包括谷歌的Gemini 1.5 Pro和Anthropic的Claude Opus，指出它们没有显示出比之前模型有显著改进。人工智能批评者加里·马库斯强调了这一观点，质疑自GPT-4发布以来缺乏重大进展。

但仍然，斯科特对新发现的可能性持乐观态度。他也承认人工智能中的数据点很少，但强调这将来不再是一个问题。

“下一个样本即将到来，我无法告诉你何时，也无法准确预测它会变得多好，但它几乎肯定会在目前脆弱的方面表现得更好，.”

凯文·斯科特

微软对OpenAI的大额注资证明了其对大型语言模型（LLM）未来进步的信心。其中一些人工智能功能包括微软Copilot，这清楚地表明该公司热衷于改进其人工智能的使用。人工智能批评者埃德·齐特龙表示，在某种程度上，人工智能可能陷入停滞，因为人们对它的期望太高。