释放大型语言模型的潜力，管理者的游戏规则改变者

作者

John Palmer 3 分钟阅读发布于 12月 2023日

大型语言模型（LLM）的用途远超文本生成，使其成为多种商业应用的宝贵工具。
LLM 易于获取且成本效益高，其 API 可实现与工作流程的无缝集成。
LLM 能够彻底改变数据查询方式，与其他系统交互，并作为多样化服务的平台。

在数据和人工智能（AI）领域，人们往往关注其“哇”效应，但对于许多企业管理者来说，重点在于实现实际、现实世界的成果。在ChatGPT和大型语言模型（LLMs）等尖端AI新闻的轰炸下，非科技或传统行业的经理们可能会想知道这些先进技术是否与他们的日常运营相关。

大型语言模型（LLMs）提供的不仅仅是文本生成功能。这些模型（如GPT-4）具有极高的多功能性，可用于执行各种任务。释放这种潜力的关键在于编写精确的指令，通常称为“提示”（prompts），以指导LLM执行特定任务。这种编写有效提示的演变技能通常被称为提示工程（prompt engineering）。

考虑LLM可以识别客户评论中的语言、翻译公司文件或评估客户投诉情绪的场景。在LLM出现之前，要实现这些任务需要为每个功能开发或采购单独的系统，这需要额外的数据收集和硬件成本。然而，凭借LLM具有成本效益的按使用量付费定价模式，这些用例比开发众多专用模型更具经济性。因此，LLM正演变为一种适用于各种应用的通用技术，实质上成为了一种主导设计。

无缝集成到工作流程中

虽然许多人通过其Web界面探索了ChatGPT，但LLM及其底层技术可通过软件API获得，使其集成到应用程序和业务工作流程中变得非常实惠且简单。例如，Duolingo利用GPT-4来改善用户反馈，摩根士丹利利用LLM提供财务建议，这些都展示了LLM的多样化应用。开源项目（如langchain）允许通过组合基于LLM的指令链来创建程序，为未来更多创新解决方案铺平道路。

LLM的颠覆性在于它们如何实现与AI的编程。开发人员可以使用简单的语言指令指定任务，并将结果像乐高积木一样组合起来，这为传统的“自制还是外购”困境提供了另一种选择，即你可以“自制、外购或从LLM改编”。

使用LLM查询公司数据

LLM的另一个有前景的应用是查询公司数据。当数据作为提示的一部分包含在内时，LLM可以提供与数据相关问题的答案。波士顿动力公司测试了这种方法，他们使用ChatGPT询问机器人的电池电量或内部状态。这为企业知识库打开了机会之门。现在可以将一捆商业文件或数据记录输入提示中并询问相关问题，从长远来看，这可能会取代传统的SQL查询。

人们正在努力更有效地将文档数据库与LLM连接起来，例如搜索最相关的文档，并仅将这些文档纳入上下文。尽管存在挑战，LLM正 emerging 为与数据交互的新接口。

LLM的互操作性与行动能力

LLM还在其“连接”其他系统并在必要时采取行动的能力方面开辟了新领域。由Google和普林斯顿研究人员引入的ReAct提示策略，使LLM能够生成包含服务调用的答案。例如，LLM可以连接到计算器服务以提供计算请求的答案。ChatGPT的高级版本提供Expedia和Kayak等插件，提供预订信息访问并处理复杂的数学查询。

总体而言，LLM与其他系统交互的这种能力有可能将它们转变为各种服务的平台或市场，类似于手机不仅仅用于打电话的功能。