像 ChatGPT 这样强大的新 AI 系统是如何工作的

作者

埃迪塔·帕特里克 3 分钟阅读发布 9年 2023月

生成式人工智能创建新数据，使其区别于传统的预测性人工智能模型。

GAN 和 Transformer 等复杂的深度学习架构推动了生成式人工智能的革命。

生成式人工智能架起了人类与机器之间的桥梁，但也引发了伦理挑战。

生成式人工智能（AI）已席卷科技界，头条新闻展示了像 OpenAI 的 ChatGPT 这样系统的非凡能力，它可以生成几乎与人类写作无法区分的文本。但生成式 AI 到底是什么，它与传统 AI 模型有何不同？

在不久的过去，关于 AI 的讨论主要围绕预测模型。这些模型经过训练，可以根据数据做出预测，无论是从 X 光片中识别医疗状况还是评估借款人的信用worthiness。它们从庞大的数据集中学习，以做出关于特定任务的明智决策。

另一方面，生成式 AI 代表了与以预测为中心的 AI 的背离。它是一种机器学习模型，旨在创建全新的数据，而不是预测预定义数据集内的结果。生成式 AI 系统学习产生与其暴露的训练数据相似的数据。虽然生成式 AI 和预测式 AI 之间的界限可能模糊，但它们代表了 AI 的不同方法。

从马尔可夫链到复杂模型

生成式 AI 的根源可以追溯到更简单的模型，如马尔可夫链，以俄罗斯数学家安德烈·马尔可夫命名，他在 1906 年引入了这种统计方法。马尔可夫模型最初用于诸如下一个词预测等任务，类似于电子邮件程序中的自动完成功能。然而，它们只能考虑少数 preceding 词的能力有限，使它们在生成连贯文本方面不太熟练。

近年来，转向更复杂的深度学习架构，支撑了生成式 AI 的繁荣。一个重大突破是 2014 年引入的生成对抗网络（GANs），通过让两个模型相互对抗来生成逼真的输出——一个生成目标输出（例如图像），另一个区分真实数据和生成数据。

此外，2015 年引入的扩散模型迭代地完善其输出，以创建与训练数据集中的样本 closely 相似的数据。Google 在 2017 年引入的 transformer 架构在 ChatGPT 等大型语言模型中起着关键作用。它将文本编码为 tokens，并利用 attention maps 在生成新文本时理解上下文。

这些 AI 架构的进步将生成式 AI 领域推向了新的高度。

令牌转换：共同线索

生成式 AI 方法的一个定义特征是将输入数据转换为 tokens——数据块的数值表示。只要数据可以转换为这种标准化的 token 格式，生成式 AI 方法就可以应用于创建具有相似特征的新数据。这种 versatility 为广泛的应用打开了大门。

例如，研究人员正在使用生成式 AI 创建合成图像数据以训练计算机视觉模型。这些模型可以更有效地学习识别对象和模式。

在另一个领域，生成式 AI 设计新的蛋白质和晶体结构，这对于开发新材料和药物至关重要。通过学习数据中的依赖关系，这些模型可以提出稳定且可实现的 structures。

然而，需要注意的是，生成式 AI 可能不会在所有与数据相关的任务中表现出色，特别是那些涉及结构化数据（如电子表格）的任务。在这种情况下，传统机器学习方法可能优于生成式模型。

人类与机器之间的桥梁

生成式 AI 最重要的价值之一在于其能够作为人类与机器之间的接口。在过去，人类必须使用 specialized 语言与机器通信。生成式 AI 通过使机器能够以更具 human-friendly 术语理解和通信来弥合这一差距。这一发展对人类-计算机交互具有深远的影响。

虽然生成式 AI 具有巨大的前景，但它提出了重要的挑战和伦理考虑。例如，其在呼叫中心用于处理客户查询的实施可能导致工人 displacement。此外，生成式 AI 模型可以继承并 perpetuate 训练数据中的偏见，传播仇恨言论和虚假信息，甚至生成 closely 模仿特定人类创作者的内容，可能引发版权问题。

从积极的一面来看，生成式 AI 有潜力通过提供他们可能无法 access 的创意内容生成工具来赋能艺术家。