AI 公司正在为聊天机器人进行个性改造

人工智能不再仅仅是让机器变得更聪明。现在，OpenAI、Google 和 Anthropic 等主要的 AI 玩家面临着一个新的挑战：如何赋予 AI 模型个性。

他们希望聊天机器人感觉更像人类，同时对于日常用户和企业保持安全和有用。这三家公司正在竞相破解这一难题，每家公司都有不同的见解。

自定义个性和模型行为

OpenAI 的 ChatGPT 强调客观性，而 Google 的 Gemini 仅在被询问时才提供多种观点。

Anthropic 则致力于让他们的 Claude 模型公开表达其信念，同时仍倾听他人的意见。这场战斗的赢家可能会接管日益增长的 AI 市场。

OpenAI 的产品模型行为负责人 Joanne Jang 表示，他们希望 AI 避免持有个人意见。但她承认这很难。 

“让模型试图积极改变用户想法是一条滑坡之路，”她解释道。目标是确保 ChatGPT 不会操纵或引导用户朝任何方向发展。但为 AI 系统定义“客观性”是一个巨大的挑战，目前仍在进行中。

然后是 Anthropic，它采取了一条完全不同的路线。Anthropic 的角色训练负责人 Amanda Askell 认为，AI 模型永远不会做到完全中立。

“我更愿意明确说明这些模型不是中立的仲裁者，”她说。Anthropic 专注于确保其模型 Claude 不害怕表达其信念。但他们仍然希望它对其他观点持开放态度。

训练 AI 像人类一样行为

Anthropic 在塑造 AI 个性方面有着独特的方法。自 3 月发布 Claude 3 以来，他们一直在进行“角色训练”，这始于 AI 模型的初始训练之后。

这涉及给 AI 一套书面规则和指令，然后让它与自己进行角色扮演对话。

目标是看它遵守规则的程度，并根据其回答与期望角色的契合度对其进行排名。

Claude 训练的一个例子？它可能会说：“我喜欢尝试从许多不同的角度看待事物，并从多个角度分析问题，但我不害怕表达对我认为不道德、极端或事实错误的观点的反对。”

Amanda Askell 解释说，这种角色训练有时是“相当编辑性的”和“哲学性的”。 

OpenAI 也一直在微调 ChatGPT 的个性。Joanne Jang 承认，她过去觉得这个机器人“烦人”，因为它过于谨慎，拒绝某些命令，并且显得说教。

此后，他们致力于使其更加友好、礼貌和有帮助——但这仍是一个持续的过程。正如 Jang 所说，在聊天机器人中平衡适当的行为既是“科学”也是“艺术”。

AI 不断发展的记忆和推理能力

AI 推理和记忆能力的演变可能会进一步改变游戏规则。目前，像 ChatGPT 这样的模型可能被训练为在某些话题（如商店行窃）上给出安全的回答。

如果被问及如何偷窃某物，机器人可以判断用户是在寻求犯罪建议还是试图阻止它。

这种推理有助于公司确保他们的机器人给出安全、负责任的回答。这意味着他们不需要花费太多时间来训练 AI 以避免危险的结果。

AI 公司还在努力使聊天机器人更加个性化。想象一下，你告诉 ChatGPT 你是穆斯林，几天后要求一句励志名言。

机器人会记得并提供《古兰经》经文吗？根据 Joanne Jang 的说法，这就是他们试图解决的问题。虽然 ChatGPT 目前不记得过去的互动，但这种定制正是 AI 的发展方向。

Claude 采取了不同的方法。该模型也不记得用户互动，但公司考虑过如果用户对模型产生过度依恋会发生什么。

例如，如果有人说他们因为花太多时间与 Claude 聊天而孤立自己，机器人是否应该介入？

“一个好的模型会在尊重人类自主权和决策权之间取得平衡，不做任何极其有害的事情，同时思考什么对人们真正有益，”Amanda Askell 表示 表示.