硅谷的有效利他主义运动正在塑造华盛顿的 AI 政策

近年来，诞生于硅谷的有效利他主义（EA）运动在塑造华盛顿对技术政策（特别是人工智能（AI））的方法方面获得了巨大影响力。这个由科技亿万富翁支持的理性主义运动，最初是一种以数据驱动的方式来解决人类苦难的方法，但已演变成一股具有影响力的力量，专注于 AI 的存在性风险。虽然一些政策制定者接受 EA 的担忧，但其他人对这些威胁的程度仍持怀疑态度。

EA 的 AI 末日担忧

EA 追随者的一个显著特征是他们对于 AI 末日的担忧。许多有效利他主义倡导者坚信，人类正处于创造一种超级智能 AI 的边缘，这种 AI 有可能在控制方面超越所有人类努力。他们担心，这种 AI 可能会自主行动或落入错误的人手中，导致灾难性后果。一些人，包括著名的 EA 思想家 Eliezer Yudkowsky，认为与不受控制的 AI 未来相比，即使是核浩劫也是更可取的结果。

EA 的华盛顿入侵

有效利他主义者大量涌入华盛顿特区，他们的存在正在重塑该市的技术政策格局。他们对 AI 政策的处理方式与该国首都的传统政策专业人士大相径庭。虽然华盛顿通常处理种族定性、虚假信息和劳动力替代等实际问题，但有效利他主义带来了一种更抽象的、存在主义的视角。

有效利他主义成员积极推动广泛的 AI 法律，旨在使 AI 的发展与人类的价值观和目标保持一致。这些政策包括针对先进 AI 模型的新报告规则、AI 公司的许可要求、对开源 AI 模型的限制，甚至是对“巨型”AI 实验进行全面“暂停”的提案。总体目标是防止可能威胁人类的 AI 未来。

文化的冲突

有效利他主义倡导者经常带着类似宗教皈依者的热情来到华盛顿，与该市渐进式、注重细节的政策制定文化发生文化冲突。虽然 D.C. 的政策制定者习惯于处理实际问题，但 EA 强调抽象的存在性担忧，使其在风格和重点上与众不同。

批评者对有效利他主义追随者缺乏多样性表示担忧。该运动主要由白人、男性和来自特权背景的个人组成。这种人口构成导致一些立法者持怀疑态度，特别是那些来自边缘化社区的立法者，他们认为 EA 的世界观可能无法充分解决他们所代表的群体的 AI 相关问题。

流入有效利他主义的资金

推动 EA 在华盛顿影响力的关键因素之一是其获得的巨额财政支持。由 Dustin Moskovitz 和 Cari Tuna 创立的主要 EA 事业资助者 Open Philanthropy 已将大量资源投入智库和项目，将 AI 和生物安全研究人员安置在政府机构和国会办公室的关键职位上。

科技亿万富翁在有效利他主义中的影响力不可低估。像 Elon Musk 和 Dustin Moskovitz 这样的知名人物慷慨资助了与 EA 相关的事宜和组织，将数亿美元投入有影响力的智库和项目，使工作人员在关键政府职位上任职。这种财政支持使 EA 在倡导其政策方面获得了显著优势。

日益增长的影响力

尽管存在怀疑和批评，EA 的影响力仍在增长，塑造着华盛顿围绕 AI 政策的辩论。EA 资助的政策专业人士嵌入在该市的关键政策节点中，包括白宫、联邦机构和有影响力的智库。他们的存在正在将讨论引向 AI 的存在性风险，这已成为政策辩论的焦点。

AI 乐观主义者：一股反作用力正在兴起

虽然 EA 在华盛顿获得了相当大的影响力，但一股反作用力开始涌现。AI 乐观主义者，通常被称为“有效加速主义者”，正在反对减缓 AI 发展和控制的提议。这些乐观主义者以 Marc Andreessen 等人物为首，主要位于硅谷，并决心提供另一种叙事。

并非所有华盛顿人都轻易接受 AI 末日叙事。一些立法者对 AI 存在性风险的可能性和严重性持怀疑态度。他们认为，关注这些风险可能会分散人们对解决紧迫问题（如 AI 偏见、隐私和网络安全的注意力）。

虽然 EA 对 AI 存在性风险的担忧日益突出，但越来越多的政策制定者主张采取更平衡的方法。他们认为，解决 AI 的即时挑战（如偏见和隐私问题）不应让位于对假设的 AI 末日的恐惧。

EA 对 AI 政策日益增长的影响

有效利他主义运动，专注于 AI 的存在性风险并拥有有影响力的支持者，对华盛顿的 AI 政策格局产生了重大影响。其存在和政策正在重塑围绕 AI 监管的辩论，尽管一些政策制定者对威胁的严重性仍持谨慎态度。随着 AI 政策辩论的不断发展，在解决即时问题和思考存在性风险之间找到平衡，仍然是该国首都政策制定者面临的核心挑战。