- Jan Leike，OpenAI 超级对齐团队负责人，对公司不断变化的安全实践提出了严重质疑。
- Leike 在联合创始人 Ilya Sutskever 离职数小时后离开了公司。
- 据称该公司已解散超级对齐团队，使其 AI 模型面临较少的审查。
在联合创始人 Ilya Sutskever 本周早些时候离开公司后，著名研究员 Jan Leike 于周五早上宣布，该公司“安全文化和流程已让位于闪亮产品”。
Jan Leike 在社交媒体平台 X 上的一系列帖子中表示，他加入这家位于旧金山的初创公司是因为他认为这里是进行 AI 研究的最佳场所。
Leike 领导了 OpenAI 的“超级对齐”团队，该团队的一位联合创始人也于本周辞职。
OpenAI 的超级对齐团队已不再完整
Leike 的超级对齐团队于去年 7 月在 OpenAI 成立，旨在解决随着公司推进能够像人类一样推理的 AI 部署安全措施时的主要技术挑战。
Leike 的声明是在 WIRED Chich 报道 OpenAI 完全解散了负责解决与 AI 相关的长期风险的超级对齐团队之后作出的。
延伸阅读： OpenAI 首席科学家 Ilya Sutskever 告别
Sutskever 和 Leike 并不是唯一离开公司的员工。自去年 11 月董事会试图解雇 CEO Sam Altman 却看着他重新夺回职位以来，至少有五名 OpenAI 最注重安全的员工已经离开或被解雇。
OpenAI 应成为一家安全第一的 AGI 公司
Leike 指出了该技术在不同平台上的最具争议的功能——即机器人要么像人类一样具有通用智能，或者至少能够很好地执行许多任务——并写道，OpenAI 需要转型为一家安全第一的 AGI 公司。
作为对 Leike 帖子的回应，OpenAI CEO Sam Altman 对 Leike 对公司的服务表示感谢，并对他的离开表示悲伤。
Altman 在 X 帖子中表示 Leike 是正确的，并且他将在未来几天写一篇关于该主题的长文。他还说，
“我们还有很多工作要做；我们致力于完成它。”
Leike 已离开 OpenAI 的超级对齐团队，John Schulman，该公司的联合创始人，已接手。
但这个团队显得有些空洞。此外，Schulman 已经因全职工作确保 OpenAI 现有产品的安全而负担过重。OpenAI 还能进行多少更重要、面向未来的安全工作？对此似乎没有令人满意的答案。
Jan Leike 与管理层存在意识形态分歧
正如组织名称 OpenAI 所暗示的那样，最初打算将其模型免费与公众共享，但现在该公司表示，将如此强大的模型提供给任何人可能是有害的，因此这些模型已转变为专有知识。
Leike 在帖子中表示，他不同意 OpenAI 领导层长期以来在公司执行的重点，直到最终达到临界点。
我加入是因为我认为 OpenAI 将是世界上进行这项研究的最佳场所。
—— Jan Leike (@janleike) 5 月 17, 2024
然而，我长期以来一直对 OpenAI 领导层关于公司核心优先事项的决策持反对意见，直到我们最终达到破裂点。
Leike 在公司的最后一天是星期四，之后他辞职了，并没有用任何温暖的送别或对 OpenAI 领导层信心的暗示来粉饰他的辞职。他在 X 上发帖说：“我辞职了。”
Leike 的一位粉丝在评论中表示，他很高兴 Leike 不再是他们团队的一员。觉醒意识形态与人类不符。它越不对齐，就越被放入 AI 中。
延伸阅读： OpennAI 保护 Reddit 内容以改进 ChatGPT
该粉丝表示，他还将要求所有对齐者提供对齐的定义。他指的是 Leike 要求 OpenAI 其他员工的建议，他认为他们可以推动公司所需的文化传播。
这家全球领先的 AI 公司似乎正在改变其方向，不再像专家经常强调的那样注重安全措施，顶级安全专家的离开可能证实了这一点。
Cryptopolitan 报道 / Aamir Sheikh
不要只是阅读加密货币新闻，要真正理解它。订阅我们的通讯。 免费。
免责声明。 本文提供的信息不构成交易建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资，我们不承担任何责任。我们强烈建议在进行任何投资决策之前，进行独立研究或咨询合格的专业人士。
Aamir Sheikh
Aamir 是一位科技记者，在加密货币和科技行业拥有近六年的经验。他毕业于 MAJ 大学，获得金融与市场营销 MBA 学位。目前他在 Cryptopolitan 工作，报道加密货币市场的最新发展和价格预测。
