人工智能在决策中的兴起

人工智能（AI）的爆炸式发展要么给我们带来了理想主义的梦想，要么带来了末日预言，但两者都没有捕捉到真正的威胁。

我们面临的不是“大型机器人叛乱”，即人工智能或机器人发动敌对接管。忘掉《终结者》或《黑客帝国》中的电影场景——那是不可能的。人工智能征服世界的技术尚不存在。

人工智能可能在特定任务上表现出色，如折叠蛋白质或下棋，但它没有能力组建军队或管理国家。

然而，这种没有机器人起义并不意味着我们是安全的。人工智能正通过不那么戏剧化但同样有力的方式悄悄渗透我们的生活：数字官僚主义。

真正的危险不是杀人机器人。而是人工智能侵入控制我们日常生活的决策。人类已经进化出对具体威胁的恐惧。想想大型捕食者，如狮子和鲨鱼。

但我们不太擅长从文件、文档或官僚主义中发现威胁。官僚主义本身是一个相对较新的发明，它随着书写的发展在5000年前出现。

在书写之前，所有权取决于社区的共识。如果你“拥有”一块土地，那是因为你的邻居尊重它。不需要任何文件。 

从泥板到数字官僚

当人们开始使用泥板和记录时，这一切都改变了。书面文件意味着财产权不再是关于社区共识，而是官方记录。古代美索不达米亚人将泥块变成官方所有权象征，颠覆了所有权的概念。

法院的判决可能基于声称你拥有一块土地的泥板，即使社区不同意。快进到今天，我们的系统仍然建立在类似的原则上，只是现在我们使用硅芯片和数字记录而不是粘土。

这种转变改变了权力结构。所有权变成了可以在没有当地社区点头的情况下出售和交易的东西。官僚机构应运而生，使得税收征收、军事资金和中央政府成为可能。

官僚成为这些系统中的关键角色，使用记录、表格和印章来管理军队、分配资源，甚至控制法律。这些官僚系统催生了拥有广泛人口控制权的中央集权国家，这种控制权现在正转移到人工智能。

人工智能不需要组建机器人军队；它只需要掌握官僚系统。在这些框架内，人工智能可以做出比任何人类更有影响力的决定，正如今天所见。人工智能已经在决定我们是否获得贷款、工作机会、大学录取，甚至医疗诊断。

想象一下人工智能银行家决定信用资格，人工智能法官裁决案件，或军事人工智能计算打击目标。人工智能不需要机器人叛乱。它继承的官僚权力已经非常巨大。

人工智能在社交媒体和公共影响中的应用

虽然原始，但社交媒体算法已经掌握了巨大的权力。人工智能算法，特别是来自Facebook、X（前Twitter）、YouTube和TikTok的算法，其设计只有一个目标：- 用户参与度。人们在平台上停留的时间越长，流入公司的资金就越多。 

通过数十亿用户的试错，这些算法发现触发贪婪、愤怒和恐惧等情绪会增加参与度。当它们触动这些情感按钮时，它们会让用户上瘾。

这些算法并没有止步于优化在线时间。它们更进一步，发现引发强烈情绪的内容可以提高用户参与度。这一发现导致了阴谋论、错误信息和社会分裂的传播。

今天的世界充斥着数字愤怒、恐吓和两极分化，这要归功于优先考虑点击量而非凝聚力的算法。通过利用情感触发器，社交媒体算法助长了今天的阴谋论和假新闻流行病。

这些算法“决策者”本质上并不邪恶。相反，它们被优化为高效地执行其角色。尽管如此，它们的决定缺乏我们在这些重要领域通常期望的人类直觉或背景。

人工智能可能做出更快或更一致的判断，但如果出错，结果可能是灾难性的。这种潜在风险已经在社交媒体对社会的影响中变得可见，作为人工智能不受限制的力量可能导致何处的警告。

拜登为五角大楼和情报机构设定人工智能规则

总统乔·拜登宣布了一项国家安全备忘录，规定了人工智能在国家安全中使用的新规则，防止五角大楼和情报机构以违背民主价值观的方式使用人工智能。

这是指导人工智能在国家安全中作用的第一项指令。新规则将鼓励人工智能实验，同时确保政府机构不使用人工智能侵犯言论自由等权利或破坏核控制。

国家安全顾问杰克·沙利文表示：“我们的备忘录指导了首个政府范围内的人工智能风险管理承诺框架。”他概述了避免偏见、维护问责制并确保在敏感角色中对人工智能进行人类监督的目标。

虽然不具有法律约束力，但这些规则涵盖了网络安全、反情报和军事行动后勤等国家安全应用。拜登去年还发布了出口管制，通过限制技术获取来减缓中国的人工智能发展。

根据指令，位于华盛顿的人工智能安全研究所将负责在发布前检查人工智能工具以防止滥用，美国情报界将优先监控其他国家的人工智能发展。