这位远见者警告人工智能的危险

伊利亚·苏茨克弗（Ilya Sutskever）是人工智能领域的知名人物，最近因其对人工智能发展的谨慎态度而成为头条新闻，这与OpenAI首席执行官山姆·奥特曼（Sam Altman）的冒险立场形成鲜明对比。

这种观点的分歧引发了该组织领导层的重大重组。在本文中，我们将深入探讨伊利亚·苏茨克弗的背景、职业生涯以及促使他对人工智能持怀疑态度的因素。

伊利亚·苏茨克弗1986年出生于苏联俄罗斯，5岁起在耶路撒冷长大。他的学术之旅使他来到了多伦多大学。2005年，他获得了数学理学学士学位，随后于2007年获得计算机科学理学硕士学位。 

他继续追求知识，并于2013年获得了计算机科学哲学博士学位。苏茨克弗在多伦多大学的早期工作以生成无意义维基百科条目的实验性软件为标志。

2012年，苏茨克弗的职业生涯发生了重大转折，他与亚历克斯·克里切夫斯基（Alex Krizhevsky）和杰弗里·辛顿（Geoffrey Hinton，他的博士导师，常被称为“人工智能教父”）共同撰写了一篇开创性的论文。这次合作促成了AlexNet的诞生，这是一种深度学习算法，展示了前所未有的模式识别能力。这个项目名为AlexNet，展示了深度学习在解决模式识别问题方面的巨大潜力。

转向谷歌及其贡献

谷歌对其开创性工作印象深刻，迅速招募了苏茨克弗和他的研究人员。在谷歌，苏茨克弗继续推动人工智能的边界。他将AlexNet的模式识别能力从图像扩展到单词和句子，展示了这项技术的多功能性。此外，他在开发TensorFlow（一个先进的机器学习开源平台）中发挥了关键作用。

在谷歌不到三年的时间里，伊利亚·苏茨克弗被特斯拉首席执行官埃隆·马斯克（Elon Musk）挖走，共同创立并担任非营利人工智能公司OpenAI的首席科学家。马斯克是OpenAI的联合创始人，他与苏茨克弗一样担心人工智能的潜在危险。马斯克于2018年因与特斯拉的利益冲突而离开OpenAI，留下苏茨克弗掌管该组织。

对人工智能安全的日益担忧

在OpenAI任职期间，苏茨克弗越来越关注人工智能安全。他主张在公司内部分配更多资源来解决与人工智能系统相关的风险。值得注意的是，他领导了OpenAI的超级对齐团队，该团队将20%的计算能力用于管理人工智能相关风险。

苏茨克弗的谨慎态度与山姆·奥特曼对快速开发人工智能的渴望之间的冲突在OpenAI的领导层中达到了顶点。苏茨克弗和志同道合的董事会成员策划了奥特曼的罢免，暂时由持更谨慎立场的埃米特·希尔（Emmett Shear）接替。然而，这一决定是短暂的，因为苏茨克弗后来对他在这场事件中的角色表示遗憾，导致奥特曼重新担任首席执行官。

伊利亚·苏茨克弗对人工智能安全的怀疑深深植根于他对不受限制的人工智能开发潜在危险的信念。他表达了对快速部署强大人工智能模型（如ChatGPT）的担忧，以及需要强有力的安全措施。 

苏茨克弗致力于确保人工智能的负责任发展，这在他对OpenAI员工的声明中显而易见，他强调在日常生活中感受通用人工智能（AGI）影响的重要性。

平衡的乐观与悲观

苏茨克弗对人工智能的看法以乐观与悲观的独特平衡为特征。他将人工智能视为解决人类当前许多问题（包括失业、疾病和贫困）的解决方案。然而，他承认潜在的负面影响，警告可能出现假新闻泛滥、极端网络攻击以及全自动人工智能武器开发等问题。他的担忧延伸到通用人工智能的治理，强调正确编程以防止不良结果的重要性。

与人工智能社区中预测灾难性场景的一些极端观点不同，苏茨克弗持有更温和的观点。他将人类与通用人工智能的关系比作人类与动物的互动方式。虽然人类对动物充满喜爱，但在修建高速公路等基础设施时，人类并不会征求动物的许可。同样，苏茨克弗认为，在涉及通用人工智能时，人类可能会优先考虑自身需求。