Meta 终于确认了 Llama 3 的发布。在伦敦举行的一场活动中,Meta 公布了这款先进人工智能模型的更多细节和发布时间表。据 TechCrunch 报道,Meta 的高管表示,他们很快将发布其开源大型语言模型的下一个版本。.
据 The Information 报道,Meta 预计将首先发布 Llama 3 的精简版,之后才会发布完整的开源版本。但为什么一开始要先发布精简版呢?我们认为 The Information 的说法合情合理,因为这将有助于为完整版的功能造势。.
关于《羊驼3》及其发行,我们目前了解的情况
Llama 3 的发布将挑战 LLM 巨头 GPT 4 的主导地位,因为它有望成为开源类别中最先进的 LLM,并将像 Llama 2 一样提供不同的模型。Meta 全球事务dent Nick Clegg 在发布会上表示:
“在接下来的一个月内,实际上可能更短,我们希望能在很短的时间内开始推出我们的新一代基础模型套件 Llama 3。”
克莱格的声明显然暗示了 Llama 3 的不同版本,他还补充道:
“今年将会推出多款不同型号、不同功能、不同用途的产品,而且很快就会开始。”
来源: Techcrunch
说到The Information的说法,听起来挺靠谱的,不是吗?目前我们了解到,Llama 3将会推出不同版本和尺寸,从小到大,功能齐全的型号涵盖了Haiku、Claude和Gemini Nano等入门级机型,以及GPT 4这样的大型机型。我们目前了解的信息有限,但可以肯定的是,它将像Llama 2和Multimodel一样开源,并且能够理解文本和图像。.
批评人士将开源模式与封闭模式进行比较
Llama 是一个开源模型,但它并非遥不可及。我们知道 Meta 及其背后的资源为其提供了tron的支持,而且 Meta 也希望借助第三方开发者和研究人员的力量。然而,尽管开源模型备受青睐,一些批评者仍然对其能力持怀疑态度,认为它们不如 GPT-4 等封闭的私有模型。他们对此持有不同看法,自有其理由。.
争论的焦点在于构建用于训练模型的大型数据集所需的资源,例如 ChatGPT 等模型就拥有庞大的数据集结构,其中包含人工标注的数据。当然,目前还没有机器能够完全匹敌人类的能力,但我们是否正在朝着这个方向迈进呢?未来两年内,答案或许是肯定的,或许不是。另一个原因是资源的可用性。虽然这一点不无道理,但科技发展史表明,一些规模较小的初创公司有时能够凭借其开箱即用的解决方案,在某些关键功能上超越大型企业。然而,现实情况是,OpenAI 的工程师年薪超过百万美元。.
他们提出的另一点是团队框架,他们认为开源的去中心化方法无法与集中式团队的成就相媲美。公共云基础设施也无法与 OpenAI 和 Google 所拥有的相提并论,这也阻碍了开源团队快速进行渐进式改进。总而言之,这些理由足以反对开源系统。但是,众所周知,尽管 Llama 是开源的,但它背后有 Meta 的支持,后者投入了巨额资源。.
元投资GPU
今年一月,马克·扎克伯格表示,微软正在构建一个庞大的计算基础设施,其中包括35万块全新的H100 GPU。如果算上其他GPU,H100 GPU的数量将接近60万块。扎克伯格是在一段视频中透露这一消息的。这将比OpenAI用于训练GPT-4的计算能力强大得多。仅人工智能一项的投资就高达数十亿美元。.
Llama 3 将为Meta AI 助手,并将集成到公司旗下众多应用程序产品中。Llama 3 能否挑战 GPT 4 的统治地位?回顾trac历程,它曾是许多最先进的开源语言学习模型(LLM)的基石,例如法国的 Mistral 等,这些模型都是通过对其进行调整和优化而构建的。
其中一些甚至在性能上超过了 GPT 3.5,因此我们可以推测,凭借其先进的功能,Llama 3 将被用于新的 LLM 产品,这些产品将达到或超过 GPT 4 的性能,同时共享和降低训练成本,从而使更多的人能够参与其中。.
竞争将会异常激烈,开源社区会像以往一样,在 LLama 3 的基础上进行创新,并提出自主解决方案,而 OpenAI 也将在未来几个月发布 GPT 5。我们对即将到来的精彩时期充满期待。.

