人工智能 (AI) 的爆炸式发展给我们的世界带来了理想主义的梦想或世界末日的预言，但两者都未能捕捉到真正的威胁。.
我们面临的并非人工智能或机器人发动“大规模机器人叛乱”的局面，更不会出现它们恶意接管世界的场景。别再幻想《终结者》或《黑客帝国》里的那些画面了——这种情况根本不可能发生。人工智能征服世界的技术目前还不存在。.
人工智能可能在某些特定任务上表现出色，例如折叠蛋白质或下棋，但它无法组建军队或治理国家。.
然而，机器人没有发动起义并不意味着我们就安全了。人工智能正通过不那么matic但同样强大的手段悄然渗透到我们的生活中：数字官僚机构。.
真正的危险并非杀手机器人，而是人工智能对掌控我们日常生活的决策的侵蚀。人类进化成惧怕切实存在的威胁，想想狮子和鲨鱼之类的大型掠食者。.
但我们却不太擅长识别来自文书工作、文件或官僚机构的威胁。官僚机构本身也是一项相对较新的发明，它与文字的出现仅有5000年的历史渊源。.
在文字出现之前，所有权的认定取决于社区的共识。如果你“拥有”一块土地，那是因为你的邻居尊重它。无需任何文件证明。.
从泥板到数字官僚
这一切在人们开始使用泥板和记录后发生了改变。书面文件的出现意味着财产权不再取决于社群共识，而是取决于官方记录。古代美索不达米亚人将泥块变成了官方的所有权象征，彻底颠覆了所有权的概念。.
即使社区不认同，法院仍可能依据一块泥板做出土地所有权判决。时至今日，我们的制度依然基于类似的原理，只不过现在我们用硅芯片和数字记录取代了泥板。.
这种转变改变了权力结构。所有权不再需要当地社区的认可，而是可以买卖交易。官僚机构应运而生，使得税收、军事经费和中央政府的运作成为可能。.
官僚机构在这些体系中扮演着至关重要的角色，他们利用记录、表格和印章来管理军队、分配资源，甚至控制法律。这些官僚体系催生了对民众拥有广泛控制权的中央集权国家，而这种控制权如今正逐渐转移到人工智能手中。.
人工智能无需组建机器人大军，它只需要掌握官僚体系。在这些框架内，人工智能可以做出比任何人类都更具影响力的决策，正如我们今天所见。人工智能已经开始决定我们是否获得贷款、工作机会、大学录取，甚至医疗诊断。.
想象一下，人工智能银行家决定信贷资格，人工智能法官审理案件，或者军事人工智能计算打击目标。人工智能不需要机器人叛乱。它所继承的官僚权力已经非常庞大。.
社交媒体算法虽然尚不成熟，却已拥有巨大的影响力。人工智能算法，尤其是来自 Facebook、X（前身为 Twitter）、YouTube 和 TikTok 的算法，其设计目标只有一个：用户参与度。用户在这些平台上停留的时间越长，流入这些公司的收入就越多。.
通过对数十亿用户的反复试验，这些算法发现，激发贪婪、愤怒和恐惧等情绪可以提高用户参与度。当它们触动这些情绪按钮时，就能牢牢抓住用户。.
这些算法并未止步于优化用户在线时长。它们更进一步，发现能够激发强烈情绪的内容可以提升用户参与度。这一发现导致了阴谋论、虚假信息和社会分裂的蔓延。.
如今，网络世界充斥着愤怒、恐慌和两极分化，这都要归咎于那些优先考虑点击量而非凝聚力的算法。社交媒体算法利用人们的情绪触发点，助长了阴谋论和虚假新闻的泛滥。.
这些算法“决策者”本身并非恶意。相反，它们经过优化，能够高效地履行职责。然而，它们的决策却缺乏我们通常在如此重要的领域中所期待的人类直觉或背景信息。.
人工智能或许能做出更快、更一致的判断，但一旦出错，后果不堪设想。这种潜在风险已在社交媒体对社会的影响中显现，也警示我们，不受控制的人工智能权力最终会将我们引向何方。.
拜登为五角大楼和情报机构制定人工智能规则
乔·拜登dent 宣布了一项国家安全备忘录，其中包含人工智能在国家安全领域使用的新规则，以防止五角大楼和情报机构以违背民主价值观的方式使用人工智能。.
这是首个指导人工智能在国家安全领域发挥作用的指令。新规将鼓励人工智能实验，同时确保政府机构不会利用人工智能侵犯言论自由等权利或破坏核控制。.
“我们的备忘录首次制定了政府范围内的人工智能风险管理承诺框架，”国家安全顾问杰克·沙利文表示。他概述了避免偏见、维护问责制以及确保在敏感领域对人工智能进行人工监督的目标。.
虽然这些规则不具有法律约束力，但它们涵盖了网络安全、反间谍和军事行动后勤等国家安全应用领域。拜登去年还颁布了出口管制令，通过限制技术获取来减缓中国在人工智能领域的发展。.
根据该指令，位于华盛顿的人工智能安全研究所将负责在发布前检查人工智能工具，以防止滥用，而美国情报界将优先监控其他国家的人工智能发展情况。.
