革命性的训练方法使人工智能能够像人类一样进行泛化

人工智能（AI）领域取得突破性进展，研究人员公布了一种新型训练方案，该方案能够显著提升AI模型的泛化能力和信息理解能力，使其更接近人类的学习和推理方式。这一创新方法挑战了“数据越多越好”的传统观念，并为揭示AI和人类认知的奥秘提供了新的视角。.

人类擅长理解和组合各种组成部分来认识世界，这种认知能力被称为“组合性”或“matic 概括”。它使我们能够解读陌生的句子，产生原创性的回应，并理解词语和语法规则的深层含义。长期以来，实现组合性一直是人工智能开发者面临的挑战，因为传统的神经网络难以模拟人类认知的这一基本方面。.

虽然像 OpenAI 的 GPT-3 和 GPT-4 这样的现有生成式人工智能模型能够在一定程度上模拟组合性，但它们在某些基准测试中往往表现不佳，无法真正理解其生成句子的含义和意图。然而，最近发表在《自然》杂志上的一项研究表明，一种专注于神经网络学习方式的独特训练方案可能是解决这一挑战的关键。.

重塑学习过程

训练方法 AI 避免了创建全新AI架构的必要。他们从标准的Transformer模型入手，该模型与ChatGPT和谷歌的Bard所使用的基础架构相同，但事先没有进行任何文本训练。关键的创新之处在于训练方案本身。

研究人员设计了一系列任务，这些任务涉及一种由诸如“dax”、“lug”、“kiki”、“fep”和“blicket”等无意义词语构成的虚构语言。这些词语与一组组彩色圆点相关联，有些词语直接代表特定的圆点颜色，而另一些词语则表示会改变圆点输出的函数。例如，“dax”代表一个红点，而“fep”则是一个函数，当它与“dax”或其他符号词语组合使用时，会将相应的圆点输出乘以三。关键在于，人工智能并不知道这些关联关系；研究人员只是提供了一些无意义句子的示例以及相应的圆点配置。.

人工智能实现类似人类的理解

随着人工智能模型的训练，它逐渐学会了做出连贯的回应，并遵循这种无意义语言中隐含的规则。即使面对全新的词语组合，该人工智能也展现出“理解”这种语言自创规则并将其应用于此前从未见过的短语的能力。这一非凡的成就预示着该人工智能具有泛化能力，这是迈向类人推理的关键一步。.

为了评估人工智能的性能，研究人员将其与人类参与者进行了比较。在某些情况下，训练后的人工智能的准确率达到了100%，超过了人类约81%的准确率。即使人工智能犯了错误，这些错误也与人类常犯的错误类似，这凸显了它具备类似人类的推理能力。.

尤其值得注意的是，如此卓越的性能并非基于庞大的数据集训练而成，而是由一个相对较小的Transformer模型实现。这一发现表明，与其用无穷无尽的数据淹没机器学习模型，不如采取更专注的方法，类似于专门的语言学或代数课程，或许能显著提升人工智能的能力。.

启示与未来方向

尽管这种新型训练方案展现出令人鼓舞的成果，但必须认识到其局限性。该人工智能模型在与人为构建的语言中的模式识别相关的特定任务中表现出色，但在面对全新的挑战或未经实践的泛化形式时则表现不佳。因此，必须认识到，在人工智能领域实现有限的泛化能力固然是重要的一步，但距离通用人工智能的最终目标仍有差距。.

麻省理工学院的计算机科学家阿曼多·索拉尔-莱扎马指出，这项研究可能为改进人工智能开辟新的途径。通过专注于训练模型进行有效推理，即使是在合成任务中，我们或许能够找到突破现有局限、提升人工智能能力的方法。然而，扩大这种新训练方案的规模可能会带来一些需要解决的挑战。.

除了对人工智能的实际应用意义外，这项研究还有助于揭示神经网络的内部运作机制及其涌现能力。理解这些过程有助于最大限度地减少人工智能系统中的错误，并加深我们对人类认知的理解。.