OpenAI正在训练一个新的AI系统，以取代GPT-4，该公司希望借此重塑声誉。该模型将由一个安全委员会进行测试，该委员会由首席执行官Sam Altman和其他三位董事会成员领导。.
另请阅读：欧盟数据监管机构称 ChatGPT 仍在散布虚假信息
这家总部位于旧金山的公司正面临压力，需要证明其对安全的承诺。最近辞职的风险研究员 Jan Leike 和 Gretchen Krueger在 X（前身为 Twitter）上糟糕的安全文化
OpenAI 训练“下一代前沿模型”
该公司周二发表的一篇博客文章中表示：
“OpenAI 最近开始训练其下一代前沿模型，我们预计由此产生的系统将使我们在迈向通用人工智能 (AGI) 的道路上达到下一个能力水平。”
OpenAI并未透露GPT-4的继任者何时发布，也未说明其具体功能。这家估值800亿美元的公司凭借其广受欢迎的AI聊天机器人ChatGPT，而当时像谷歌这样的巨头为了评估声誉风险而选择退居幕后。
虽然 OpenAI 在生成式人工智能竞赛中处于领先地位，而 Anthropic、谷歌、微软等公司也参与了激烈的竞争，但该公司并非一直都能经受住道德审查。
在宣布从 OpenAI on X 辞职的帖子中，雷克透露，“过去几年，安全文化和流程让位于闪亮的产品。”
克鲁格写道，该公司需要“在决策流程、问责制、透明度、政策执行以及我们谨慎使用自身技术等基础性问题上做出更多改进”。
上周，欧盟的一个工作组进一步批评了该公司，报告称其旗舰产品 ChatGPT 未达到其准确性标准。
该公司将人工智能安全性作为其主要卖点
与此同时，OpenAI 最近对其GPT-4 模型立即引发了一场备受瞩目的争论，女演员斯嘉丽·约翰逊指责该公司未经授权使用她的声音。
另请阅读： OpenAI 在斯嘉丽·约翰逊争议后放弃 ChatGPT Voice
如今，该公司正将其快速trac的领先优势延伸至自助洗衣领域，并将安全性作为其即将推出的人工智能项目的卖点。该公司也渴望被监管机构视为负责任的人工智能开发商。OpenAI 在其博客文章中补充道：
“虽然我们为能够制造和发布在性能和安全性方面都处于行业领先地位的车型而感到自豪，但我们也欢迎在这个重要时刻展开激烈的讨论。”
新成立的安全委员会将由董事奥特曼、布雷特·泰勒（主席）、亚当·德安杰洛和妮可·塞利格曼领导。公司的应急准备主管、安全系统主管、校准科学主管、安保主管和首席科学家也将加入该委员会。.
OpenAI 表示，该委员会将在接下来的三个月内“评估并进一步完善流程和保障措施”，并向其他三位董事汇报。.
本月初，在团队负责人兼 OpenAI 联合创始人 Ilya Sutskever 离职后，该公司解散了其安全团队。.
杰弗里·戈戈的Cryptopolitan 报道
