波士顿学者认为灾难性的人工智能焦虑被夸大且误导

位于 波士顿大学应用伦理中心 的学者们一直在研究与人工智能互动对人们自我认知的影响，以及 尼尔·艾西科维茨 特别认为这些灾难性的焦虑是 被夸大且误导的。虽然存在重大的人类问题（并非由人工智能引起，而是由人类引起），但它们需要政策制定者的关注。推理如下：这些问题已经存在了一段时间，因此几乎算不上是灾难性的。

最近几个月，以ChatGPT等系统为代表的人工智能的兴起引发了对其潜在危险的广泛焦虑。有些人甚至表达了存在主义恐惧和灾难性场景，将人工智能比作大流行病和核战争。尼尔特别提出了一个概念，即真正的危险在于基本人类品质的微妙侵蚀，促使人们重新评估在人工智能时代做人的意义。

挑战灾难性场景

虽然像“回形针最大化器”这样的思想实验被用来说明潜在风险，但现实是，现有的人工智能应用远不具备造成大规模灾难的能力。这些场景虽然引人入胜，但更多属于科幻领域，而非迫在眉睫的威胁。今天的人工智能系统专注于特定任务，缺乏极端案例所需的复杂判断力和对关键基础设施的访问权限。

与其说是灾难性事件，真正的危险在于通过人工智能的日益整合对人类存在的逐渐转变。现有的人工智能技术已经展示了其潜在危害，例如创建逼真的深度伪造媒体以及在决策系统中延续算法偏见。这些问题需要政策制定者的关注和监管，但它们并非对人类存在的生存威胁。

人类品质的 diminishing

尼尔·艾西科维茨教授认为，人工智能带来的存在主义危险性质不同——它是一种哲学风险。人工智能有可能改变个人对自己的看法，并逐渐侵蚀基本的人类能力和体验。其中一种能力是判断力，这是深深植根于人类本性的特征。随着越来越多的判断被自动化并委托给算法，人们可能会失去自己做出这些判断的能力，导致其推理和做出明智决策的能力下降。

人工智能影响的另一个关键人类存在方面是偶然性和意外惊喜的作用。人类重视生活中的意外相遇和惊喜元素，然而算法推荐系统旨在通过依赖可预测性和计划来最小化此类意外体验。用算法逐渐取代偶然性可能会剥夺个人获得有意义和意外发现的机会。

此外，人工智能写作能力的进步引发了对批判性思维能力下降的担忧。如果人工智能技术在高等教育中取代写作作业，教育工作者可能会失去教导学生如何批判性思考和有效表达自我的宝贵工具。

慎重整合的重要性

虽然人工智能并不构成迫在眉睫的灾难性威胁，但不加批判地采用和整合人工智能到各个领域确实会带来后果。艾西科维茨教授警告说，如果这些发展继续不受控制，人类技能，如判断力、对偶然相遇的欣赏和批判性思维，将随着时间的推移而减弱。虽然人类物种将幸存于这些损失，但人类存在的质量将因此变得贫乏。

在围绕人工智能的焦虑日益上升的背景下，区分夸大的灾难性场景与其在社会整合中相关的哲学风险至关重要。虽然人工智能不太可能带来末日结局，但基本人类品质的侵蚀是一个真正的担忧。通过认识和解决人工智能的微妙成本，政策制定者、研究人员和整个社会可以确保人工智能技术得到深思熟虑的整合，以增强人类存在，而不是削弱它。

尼尔·艾西科维茨（Nir Eisikovits）是哲学教授及应用伦理中心主任。在加入波士顿大学之前，他是萨福克大学法律与政治哲学副教授，在那里他共同创立并指导了伦理与公共政策研究生项目。艾西科维茨教授的研究重点在于战后出现的道德和政治困境。他是《休战理论》（Palgrave MacMillan出版）和《同情敌人：和解、过渡正义、谈判》（Brill出版）的作者，也是《理论化过渡正义》（Routledge出版）的合编者。他还是《Theoria》杂志近期一期关于“不对称战争时代的和平理念”的特邀编辑。了解更多关于他的信息。