2023年,一种奇特的趋势席卷了大西洋两岸的政治精英:他们对虚构的、如同神一般的人工智能,或者说通用人工智能(AGI),产生了毫无根据的恐惧。这种毫无根据的恐慌体现在政策峰会、新法规以及对一项尚未出现的技术的末日预言中。更荒谬的是,当政客们沉迷于人工智能的末日预言时,诸如基础设施老化、医疗保健挑战和能源短缺等现实世界的问题却依然悬而未决。.
人工智能的政治化:一场离奇的幻想
今年三月,英国下议院科学技术委员会成员、保守党议员凯瑟琳·弗莱彻提出了一个离奇的假设,声称一台有感知能力的电脑决定消灭地球上所有的牛。这一关于能够自我复制且所向披靡的人工智能的奇幻设想迅速成为讨论的焦点,政界人士纷纷要求科技公司代表做出解释。然而,这种担忧似乎没有任何可靠的科学依据。.
TESCREAL 中的人工智能精英崇拜与有效利他主义
围绕“杀手级人工智能”的恐慌被描述为一种“协作式元小说”,类似于精英阶层的QAnon阴谋论。这种被哲学家埃米尔·P·托雷斯和蒂姆尼特·格布鲁称为“TESCREAL”的叙事,涵盖了各种技术乌托邦信仰,包括超人类主义、外向主义、奇点主义、宇宙主义、理性主义、有效利他主义和长期主义。这些亚文化之所以能够获得关注和认可,很大程度上要归功于硅谷亿万富翁们的巨额资金支持。.
尤其值得一提的是,有效利他主义(EA)运动在推动人工智能热潮方面发挥了关键作用。在约5亿美元的资金涌入下,来自EA富裕支持者的资金使得人工智能成为该运动的焦点。尽管一些EA人士将人工智能视为解决全球问题的潜在方案,但另一些人则对其生存风险深表担忧,这在政策界和科技界都造成了分歧。.
优先事项的超现实转变对政策制定的影响
2023年最令人震惊的发现并非人工智能的突破性进展,而是人工智能神话对媒体和政策精英的全面影响。政策制定者们最初在2021年还对人工智能的生存威胁不屑一顾,如今却已屈服于这些技术乌托邦式的信念。对“终结者”式人工智能的恐惧已成为主流叙事,导致全球人工智能安全峰会的召开,以及人们将一场虚构的危机置于实际问题之上。.
硅谷的亿万富翁,例如Facebook联合创始人达斯汀·莫斯科维茨和加密货币诈骗犯萨姆·班克曼-弗里德,在资助牛津大学人类未来研究所等机构方面发挥了重要作用。这种资金支持使一些曾经默默无闻的亚文化群体获得了认可,也加剧了政治和学术界对现实的扭曲。.
精英集团对威斯敏斯特的控制
在2023年最后几个月,政客们显然已dent 地成为由一些神秘边缘意识形态追随者编剧的戏剧中的演员。由TESCREAL和有效利他主义运动所宣扬的对神一般人工智能的恐惧,已经凌驾于matic 政策制定之上。被卷入这场精英崇拜的政策制定者们,由于人工智能神话掩盖了现实世界的挑战,已经丧失了被认真对待的权利。这种错觉的后果远不止于政治作秀,它正在以可能与人工智能技术实际发展状况不符的方式塑造政策走向和公共话语。.
我们的政治阶层若沉迷于这些叙事,便有可能脱离当今紧迫的现实问题。值此年末之际,我们比以往任何时候都更需要进行批判性评估,回归以证据为基础的政策制定。我们必须质疑人工智能神话的影响力,政治精英也必须重新聚焦于应对切实存在的挑战,而不是屈服于人工智能末日论的诱惑。.

