OpenAI强调超级智能治理以实现负责任的发展和部署

TL;DR 摘要

• OpenAI强调需要治理超级智能，以管理先进AI系统的风险和潜在益处。
• 主要开发工作之间的协调对于超级智能的安全融入社会至关重要。
• OpenAI建议建立一个国际机构来检查AI系统，实施安全标准，并监管超级智能的部署。

Sam Altman与OpenAI的高级高管Greg Brockman和Ilya Sutskever最近发表了一篇博客文章，强调解决超级智能治理的重要性——超级智能是一种比迄今为止我们遇到的任何技术都更强大的未来AI系统。

虽然承认AI的潜在益处，但OpenAI强调管理风险以创造繁荣未来的重要性。平衡监管与创新对于在利用AI力量的同时减轻潜在风险方面至关重要。

超级智能的力量与风险

Altman承认，超级智能在大多数领域超越专家级表现，并与大型企业的生产力相媲美，对人类具有巨大的潜力。然而，他也强调，超级智能可能比过去我们遇到的任何技术都更强大，无论是在积极成果还是潜在负面影响方面。

Altman将超级智能与核能和合成生物学等技术进行了比较，这些技术需要采取主动措施来减轻生存风险。他强调在超级智能开发过程中需要谨慎管理和减轻风险。

OpenAI提出，主要开发工作之间的协调对于确保超级智能与社会的顺利整合至关重要。Altman建议政府可以建立一个合作项目，公司可以积极参与。这种协调方法将有助于在保持安全标准的同时推动超级智能的进步。此外，OpenAI认为，集体协议（可能由一个新组织支持）可以限制前沿AI能力的发展速度，以确保负责任的发展。

治理机构的必要性

为了监管超级智能，Altman及其同事建议建立一个类似于国际原子能机构（IAEA）的国际权威机构。该机构将检查AI系统，进行审计，测试是否符合安全标准，并对部署和安全级别施加限制。

该机构的重点应放在减少生存风险上，而不是规定各国的AI政策。拟议的机构应专注于减少生存风险，而不是干涉各国可以处理的问题，例如确定AI被允许说什么。OpenAI设想这一治理机构是确保超级智能负责任开发和部署的关键实体。

OpenAI最近关于超级智能治理的博客文章强调了应对AI进步带来的潜在风险和重要性的意义。OpenAI对超级智能治理的观点强调了协调努力、监管监督、技术进步和利益相关者合作的需求。

全球监控机制

“在OpenAI，我们有两个根本原因。首先，我们相信它将带来一个比我们今天所能想象的更好的世界（我们已经在教育、创意工作和个人生产力等领域看到了早期的例子）。世界面临许多我们需要更多帮助才能解决的问题；这项技术可以改善我们的社会，每个人使用这些新工具的创造能力无疑会让我们惊叹。经济增长和生活质量的提高将是惊人的。

其次，我们认为阻止超级智能的创造是不合直觉地危险和困难的。由于收益巨大，建造成本逐年降低，建造它的参与者数量迅速增加，而且它是我们所处技术路径中固有的部分，阻止它将需要类似全球监控机制的手段，即使这样也不能保证成功。所以我们必须做对。”

随着AI系统向超级智能迈进，优先考虑安全、减轻风险并确保AI在社会中的负责任整合变得至关重要。通过主动解决这些挑战，OpenAI旨在以最大化其益处并最小化潜在伤害的方式驾驭超级智能的未来。