OpenAI 是否将安全放在次要位置？

本周早些时候，联合创始人伊利亚·苏茨克维尔离开了公司。周五上午，著名研究员扬·莱克宣布，该公司“安全文化和流程已经让位于闪亮的产品”。.

Jan Leike 在社交媒体平台 X 上的一系列帖子中表示，他加入这家位于旧金山的初创公司，是因为他相信这里是进行人工智能研究的最佳场所。. 

雷克领导的 OpenAI “Superalignment” 团队，其联合创始人也在本周离职。.

OpenAI 的超级联盟团队已不复存在

Leike 的 Superalignment 团队于去年 7 月在 OpenAI 成立，旨在解决该公司在推进能够像人类一样进行理性思考的 AI 时，部署安全措施所面临的主要技术挑战。. 

在 WIRED Chich 的一篇报道声称 OpenAI 已完全解散了 Supersligment 团队（该团队的任务是解决与人工智能相关的长期风险）之后，Leike 发表了上述声明。.

另请阅读： OpenAI首席科学家伊利亚·苏茨克维尔告别

苏茨克维尔和莱克并非唯一离开公司的员工。自去年11月董事会试图解雇首席执行官萨姆·奥特曼以来，至少还有五名OpenAI安全意识最强的员工离职或被解雇。当时，奥特曼设法保住了自己的职位。.

OpenAI 应该成为一家安全至上的通用人工智能公司

莱克指出，这项技术在多个平台上最具争议的特点是——机器人的前景是它们要么像人类一样拥有普遍的智能，要么至少能够很好地执行许多任务——他写道，OpenAI 需要转型成为一家以安全为先的通用人工智能公司。.

针对雷克的帖子，OpenAI 首席执行官 Sam Altman 对雷克为公司做出的贡献表示感谢，并对他离开表示惋惜。.

Altman在X论坛上发帖称 ， Leike的说法是正确的，他将在未来几天就此话题撰写一篇长文。他还表示，

“我们还有很多工作要做；我们决心完成这些工作。” 

Leike 已离开 OpenAI 的超级对齐团队，该公司联合创始人 John Schulman 接任。.

但这个团队似乎缺乏活力。此外，舒尔曼已经不堪重负，他全职负责保障OpenAI现有产品的安全性。OpenAI还能在多大程度上开展更具前瞻性的安全工作呢？这个问题似乎没有令人满意的答案。.

Jan Leike与管理层存在意识形态分歧

正如该组织的名称 OpenAI 所暗示的那样，它最初的目的是与公众免费分享其模型，但该公司现在表示，将如此强大的模型提供给任何人可能会造成危害，因此这些模型已转变为专有知识。.

雷克在一篇帖子中表示，他与 OpenAI 领导层在公司长期以来推行的优先事项上存在分歧，直到最终达到了临界点。.

我加入OpenAI是因为我认为它是世界上开展这项研究的最佳场所。

然而，我与OpenAI领导层在公司核心优先事项上存在分歧已久，直到我们最终忍无可忍。

— Jan Leike (@janleike) 2024年5月17日

雷克在公司的最后一天是周四，之后他递交了辞呈，并没有留下任何热情洋溢的告别辞，也没有流露出对OpenAI领导层的信心。他在X上发帖说：“我辞职了。”

一位雷克的粉丝评论说，他很高兴雷克不再是他们团队的一员。觉醒意识形态与人性背道而驰。这种意识形态越是偏离人性，就越会被应用到人工智能中。. 

另请阅读： OpennAI 为 ChatGPT 改进保护 Reddit 内容

这位追随者表示，他还会要求所有对齐者给出对齐的 defi。他指的是Leike提出的一个建议，在该建议中，Leike询问OpenAI的其他员工，他相信他们能够推动公司所需的文化变革。. 

世界领先的人工智能公司似乎正在改变其在安全措施方面的做法，而专家们经常强调这些措施，该公司顶级安全专家的离职可能证实了这一点。.

Cryptopolitan 报道，作者：Aamir Sheikh