- ChatGPT 基于统计原理运行，而非真正理解语言，其准确性依赖于训练数据。
- 人类反馈对于优化 ChatGPT 的回复以及防止有害内容的机械复述至关重要。
- 尽管人工智能不断进步，但 ChatGPT 高度依赖人类输入，从初始编码到持续的评估与优化。
在当今的许多在线交互中，ChatGPT 处于核心地位，这是由 OpenAI 开发的一种语言模型，旨在基于从互联网抓取的海量训练数据预测文本序列。然而，与某些人的看法相反，ChatGPT 并不像人类那样“理解”语言。它以统计方式运行，分析来自庞大数据集的单词模式。例如，如果某个短语在其训练中频繁重复，如“熊是秘密机器人”，模型可能会认为它更可能是真实的。
这种方法引出了一个问题：在错误信息和不同意见泛滥的时代，ChatGPT 如何辨别准确信息与虚假信息？
反馈的关键作用
ChatGPT 依赖反馈机制来完善其响应。用户、开发人员和签约团队评估模型的输出，使其与被认为准确或适当的内容保持一致。这些评估不仅引导模型走向正确答案，还防止其重复有害内容。
《时代》杂志最近的一篇报道突出了这些人类评估者的工作条件，揭示了 AI 开发阴暗的一面。据报道，肯尼亚的工人每小时仅以 2 美元的价格筛选和标记潜在的问题内容，经常暴露于令人不安和令人震惊的内容中。
这说明了 ChatGPT 和类似模型的一个重要方面：它们严重依赖人类判断来确定什么是“好”或“坏”的答案，以及哪些内容是有毒的。
ChatGPT 的局限性
虽然 ChatGPT 的能力令人惊叹，但它并非没有缺陷。一个显著的倾向是偶尔的“幻觉”——自信地提供不准确的信息。当模型被问及未经过严格训练的主题时，这一点尤为明显。
例如，虽然 ChatGPT 可以提供 J.R.R. 托尔金的《指环王》等主流作品的合理摘要，但它对吉尔伯特和沙利文的《彭赞斯的海盗》或厄休拉·K·勒古恩的《黑暗的左手》等稍不知名作品的回忆可能接近荒谬。这突显了模型需要原始数据、反馈和完善。
这些模型缺乏真正的理解。它们无法辨别新闻报道的准确性、评估复杂的论点，甚至无法确保与既定来源（如百科全书）的一致性。相反，它们依赖人类进行这些评估，转述和重复人类的表达，并寻求对其输出的进一步人类反馈。
AI 系统的依赖性
随着技术的进步和像 ChatGPT 这样的 AI 模型变得日益复杂，认识到它们对人类输入的固有依赖性至关重要。一个庞大的人类网络支撑着这些系统，无论是初始编码、持续反馈还是内容评估。
如果公众对某事的看法发生变化，或者有了新的科学发现，这些模型需要大量重新训练才能适应。本质上，它们是集体人类知识和劳动的反映。
与一些人认为的自主运行巨头不同，像 ChatGPT 这样的大型语言模型与人类互动紧密相连。它们提供的每个准确响应都建立在无数人奠定的基础之上——从创建训练数据的人到完善模型答案的人。
当用户与 ChatGPT 及其同类互动时，认识到每次交互背后的人类努力至关重要，强调即使在 AI 时代，人类输入仍然具有无价的价值。
不要只是阅读加密货币新闻，要真正理解它。订阅我们的通讯。 免费。
埃迪塔·帕特里克
Editah 是一位多才多艺的金融科技分析师，对区块链领域有着深入的理解。她既着迷于技术，又惊叹于技术与金融交汇所带来的震撼。她对数字钱包和区块链的特别关注，也为她的受众提供了宝贵的见解。
