AI代码生成：在质量与实用性之间取得平衡

在奥斯陆NDC会议上一场发人深省的讨论中，路易丝·弗里斯（Luise Freese）和伊奥娜·瓦尔加（Iona Varga）深入探讨了在使用人工智能（AI）模型时面临的实际困境，特别是在代码生成的背景下。虽然AI在模仿人类智能方面取得了重大进展，但弗里斯和瓦尔加强调，在利用AI执行生成代码等特定任务时，在实用性和质量之间取得平衡的重要性。

瓦尔加指出一个引人注目的概念，即AI暗示了一种真正的智能感，但其本质在于这些模型是如何构建的表示。通过互连节点，AI试图复制人脑中神经元和突触的复杂网络。这种模拟神经网络的努力导致了“人工网络”或“人工智能”这一术语。然而，重要的是要记住，AI在实践中与人脑的工作方式大不相同。

弗里斯通过强调计算机根本依赖于以二进制方式运行的晶体管（要么开，要么关），为对话增加了一层抽象。通过这些二进制状态的 various 组合，计算机操纵位来执行任务。与人脑不同，晶体管不参与复杂的纠缠；它们仅仅作为开关集合发挥作用，最终产生结果。

通用AI模型的恶性循环

讨论的核心围绕使用通用AI模型（通常称为基础模型）处理高度特定任务所提出的挑战。两人特别审视了大型语言模型（LLM）及其局限性。LLM通过分析输入（无论是问题还是提示）并根据统计模式生成单词序列来运行。这些模型在预测方面表现出色，但在事实核查和验证方面却力不从心，因为它们的主要设计目标是生成内容，而不是验证其准确性。

瓦尔加指出了一个关键担忧：使用非常通用的AI模型处理高度专业化任务的风险。当组织试图使用单个AI模型解决一系列广泛的问题时，会出现一个令人不安的模式。弗里斯将其比作自我放大的恶性循环。为了摆脱这种循环，弗里斯建议转向使用更专业的AI模型，其中一些可以建立在基础模型之上。

人类判断在代码评估中的作用

讨论中出现的一个核心问题是，AI生成的代码是否安全可用，以及是否符合所需的标准和质量。瓦尔加强调，这些问题最终需要人类的判断和干预。评估AI生成的代码的过程不应被低估，因为它与调试由他人编写的陌生代码的挑战相似。正如调试他人的代码可能是一项复杂的任务一样，确保AI生成代码的质量和安全性也需要仔细审查。

瓦尔加强调了AI作为启动问题解决过程的有价值工具的潜力。然而，她警告说，一旦AI启动，就需要一个彻底的后期处理阶段。这个阶段涉及检查、验证、修改、编辑，在某些情况下重写AI生成的内容。正是在这个 essential 阶段，AI引入的工作的真实程度变得明显。

本质上，2023年奥斯陆NDC会议的讨论强调了在利用AI模型力量时所需的微妙平衡，特别是在代码生成等高度专业化的领域。虽然AI作为问题解决辅助工具具有巨大的潜力，但人类的监督和验证对于确保其生成输出的质量、安全性和相关性仍然是不可或缺的。