OpenAI 引入安全与委员会监督其 AI 项目

为了增强机器学习项目的安全性，OpenAI 宣布成立安全和安保委员会。这一新的治理机构是在组织近期发生变化的背景下出现的，例如取消了负责处理 AI 带来风险的内部 Superalignment 团队。

委员会的宣布紧随公司内的一系列战略变化之后，同时也标志着公司下一代模型训练的启动，这暗示着向 AGI 的进展。

OpenAI 董事会成立安全和安保委员会，负责就所有 OpenAI 项目的关键安全和安保决策提出建议。 https://t.co/tsTybFIl7o

— OpenAI (@OpenAI) 5 月 28, 2024

OpenAI 引入新委员会以加强对 AI 的监督

GPT-4 的开发者 OpenAI 通过组建一个由九名成员组成的强大安全和安保委员会，进一步提升了其游戏水平。该小组包括组织高管。Sam Altman 担任 CEO 和董事会主席，成员还包括 Aleksander Madry、Lilian Weng、John Schulman、Matt Knight 和 Jakub Pachocki。他们的核心责任将是改善 AI 风险管理流程的处理。预计将在未来九十日内向董事会提交一份详细报告。

延伸阅读： 亚马逊在挑战Nvidia的人工智能芯片霸权方面遇到困难

OpenAI 在安全监督方面的转变伴随着众多领导层的变动，如 Ilya Sutskever 和 Jan Leike 的离职，以及负责 AI 安全的 Superalignment 团队的解散。这一重组显示了 OpenAI 改善其 AI 风险管理策略并扩展 AI 创新前沿的愿望。

OpenAI 正在训练下一代前沿模型

除了成立新委员会外，OpenAI 已开始训练其所谓的下一代前沿模型。该模型旨在超越现有模型的能力，并更接近实现通用人工智能（AGI）。此举是其持续使命的一部分，旨在创建能够高效执行各种任务的 AI 解决方案。OpenAI 首席技术官 Mira Murati 指出，GPT-4 的主要更新将带来模型的重大增强，并可能反映技术在相关用例方面的发展。

延伸阅读： 中国 AI 公司掀起激烈价格战

作为 AI 研究云基础设施重要合作伙伴的微软最新洞察表明，新模型将代表巨大的进步，微软首席技术官 Tom Warner 将其能力与规模的变化形容为从“虎鲸”到“鲸鱼”的转变。

对 GPT-5 的期待日益升温

在这些趋势的背景下，关于 OpenAI 下一代语言模型 GPT-5 初步版本的传闻四起。三月发布的报告显示，只有少量用户使用了该原型，并提到与 GPT-4 相比有所改进。这种热议在科技爱好者和普通大众中引发了巨大的期待，各方利益相关者都在期待了解更多关于这一新模型的前景。

OpenAI 所做的一切，从重组安全委员会到推动技术发展，都指向一个大局，即保持其在 AI 发展领域的领先地位。OpenAI 的不断进化以及可持续平台的整合，使其成为定义 AI 技术未来路径的领先公司之一。

Cryptopolitan 记者 Chris Murithi 报道