- OpenAI 正在训练新一代 AI 系统，以接替 GPT-4。
- 该模型将由由首席执行官 Sam Altman 领导的安全与安保委员会先行把关。
- OpenAI 正面临压力，需证明其对安全性的承诺。
OpenAI 正在训练一个新的 AI 系统以取代 GPT-4，因为该公司希望实现声誉重启。该模型之前将由 CEO Sam Altman 和另外三名董事会成员领导的安全和安保委员会进行把关。
延伸阅读： ChatGPT 仍在传播虚假信息，欧盟数据监管机构称
这家位于旧金山的公司正面临压力，需要证明其对安全的承诺。最近辞职的风险研究员 Jan Leike 和 Gretchen Krueger 在 X（前 Twitter）上揭露了 OpenAI 所谓的 糟糕的安全文化。
OpenAI 训练‘下一代前沿模型’
在周二发布的一篇博客文章中，该公司 表示：
“OpenAI 最近开始训练其下一代前沿模型，我们预计由此产生的系统将把我们带到人工智能通用智能（AGI）道路上的下一个能力水平。”
OpenAI 没有说明 GPT-4 的继任者何时发布，也没有说明它能做什么。这家估值 800 亿美元的公司在其 hugely popular AI 聊天机器人 ChatGPT 上采取了先发制人的策略，当时像 Google 这样的竞争对手则退居二线以评估声誉风险。
虽然 OpenAI 在生成式人工智能竞赛中处于领先地位，与 Anthropic、Google、Microsoft 等公司竞争激烈，但该公司并不总是经得起道德审查。
Leike 在 X 上宣布从 OpenAI 辞职的文章中 透露，“在过去几年里，安全文化和流程已让位于闪亮的新产品。”
Krueger 写道，该公司需要“做更多工作来改善基础事物，如决策流程、问责制、透明度、政策执行以及我们使用自身技术时的谨慎程度。”
上周，一个欧盟特遣队 进一步强调了这一批评，报告称 ChatGPT 作为该公司的旗舰产品，未能达到其准确性标准。
公司宣扬 AI 安全作为关键卖点
与此同时，OpenAI 最近对其 GPT-4 模型的更新立即引发了一场高调的争端，女演员斯嘉丽·约翰逊指控该公司未经授权使用她的声音。
延伸阅读： OpenAI 在 Scarlett Johansson 争议后取消 ChatGPT 语音
现在，该公司正将其快速通道优势带入公众视野，宣扬安全是其即将推出的 AI 项目的卖点。该公司也渴望被监管机构视为在开发负责任的 AI。在其博客文章中，OpenAI 补充道：
“虽然我们自豪于构建和发布在能力和安全方面均处于行业领先地位的模型，但我们欢迎在这一重要时刻进行激烈的辩论。”
新的安全和安保委员会将由董事 Altman、Bret Taylor（主席）、Adam D’Angelo 和 Nicole Seligman 领导。该公司的准备负责人、安全系统负责人、对齐科学负责人、安全负责人和首席科学家也将加入该委员会。
OpenAI 表示，该委员会将在未来三个月内“评估并进一步完善流程和保障措施”，并向另外三名董事汇报。
本月早些时候，随着团队负责人兼 OpenAI 联合创始人 Ilya Sutskever 的离职，该公司解散了其安全团队。
Cryptopolitan 记者 Jeffrey Gogo 报道
如果您正在阅读这篇文章，说明您已经领先一步。请继续通过我们的通讯保持关注。
免责声明. 所提供的信息不构成投资建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资，我们不承担任何责任。我们强烈建议在进行任何投资决策之前，进行独立研究或咨询合格的专业人士。
Jeffrey Gogo
Jeffrey Gogo 是一位拥有 20 年商业、金融及气候变化新闻与分析经验的记者。他的作品曾发表于汤森路透基金会、《津巴布韦先驱报》以及多家在线出版物。他还广泛撰写过关于人工智能和元宇宙的文章，并于 2017 年开始涉足加密货币市场。Gogo 在哈拉雷的 CCOSA 学习了新闻与大众传播专业。
