赋予 AI 实体真正的名称是否能减少其不良行为？

随着人工智能（AI）领域的发展，对潜在负面后果的担忧促使专家呼吁暂停 AI 开发。挑战在于在最大化 AI 益处的同时，最小化与其滥用相关的风险。存在不同格式的 AI 实体，需要一种新颖的方法来促进 AI 系统中的问责制和负责任的行为。不妨探讨一下 Vernor Vinge 提出的“真名”概念，即激励 AI 实体在保持各自独特个性的同时展开竞争与合作。

AI 实体的标准格式

目前围绕控制 AI 的讨论基于三个假设：少数主要实体（如微软和谷歌）的主导地位、AI 系统无限复制和分发潜力，以及这些系统可能汇聚成一个类似《终结者》电影中天网（Skynet）那样强大的单一实体。然而，这些格式中的任何一种都无法解决我们在平衡积极成果与潜在危害方面的困境。

随着 AI 系统获得自主权并变得比人类更快，传统的监管和控制方法变得不足。为了解决这个问题，建议促进 AI 实体之间的相互问责。通过培养竞争，AI 系统可以相互问责，检测和谴责负面行为。

个体化是指每个 AI 实体都需要拥有独特的身份和现实世界中的地址。这一概念有助于在 AI 系统之间建立信任和问责制。借鉴 Vernor Vinge 的“真名”理念，建议激励 AI 实体在保持各自独特个性的同时展开竞争与合作。

实施问责机制

为了确保 AI 实体能够承担责任，需要创建一个身份注册系统。该系统可以基于区块链技术，或者要求 AI 系统维护与物理硬件内存绑定的“灵魂内核”（SK）。SK 将作为实体身份的可验证证明，并使其他人能够就其行为对其进行问责。

鉴于 AI 发展的速度，仅依靠监管可能是不够的。相反，它提出了一种制度，即拒绝与缺乏适当标识的 AI 实体进行业务往来成为一种强有力的执行机制。通过建立举报和谴责负面行为的激励机制，AI 实体将有动力维持具有竞争力的问责框架。

AI 实体之间的合作

为什么高度智能的 AI 实体会在这样的系统中合作？答案是，传统的控制格式，如中央机构或垄断权力结构，并不可行。相反，通过促进竞争性问责制度，AI 实体可以确保其利益得到保护，同时避免混乱或权力集中。

促进 AI 问责制对于最大化 AI 的积极影响和最小化潜在危害至关重要。通过培养个体化、创建强大的身份识别系统以及激励竞争性问责，我们可以创建一个框架，使 AI 系统能够相互问责并适应不断变化的时代。这种方法确保了来自人类社会的持续投入，在 AI 进步和负责任的行为之间取得平衡。

Vernor Steffen Vinge 是圣地亚哥州立大学退休数学教授、计算机科学家和科幻小说作家。他最为人熟知的是其获得雨果奖的小说 《深渊上的火》（A Fire Upon The Deep） (1992), 《深空地平线》（A Deepness in the Sky） (1999) 和 《彩虹尽头》（Rainbows End） （2006），他获得雨果奖的中篇小说 《费尔莫特高中的快乐时光》（Fast Times at Fairmont High） (2002) 和 《饼干怪兽》（The Cookie Monster） （2004），以及他的 1993 论文 《即将到来的技术奇点》，他在其中论证，技术的指数级增长将达到一个我们无法推测其后果的点。