OpenAI 推出 100 万美元赠款计划以革新 AI 治理

AI 聊天机器人 ChatGPT 背后的组织 OpenAI 推出了一项旨在促进人工智能开发中更大程度民主参与的倡议。在 5 月 25 日的一项最新公告中，OpenAI 透露计划颁发十笔赠款，每笔价值 100,000 美元，以支持旨在建立“概念验证”民主程序的实验，从而确定 AI 系统应遵循的规则。

该公司强调，这些规则必须符合法律界限，并优先考虑造福人类。OpenAI 将这项赠款计划视为迈向创建民主程序以监督 AGI（通用人工智能）并最终监督超级智能的一步。通过这些赠款进行的实验将为未来更大规模、更雄心勃勃的全球项目奠定基础。OpenAI 澄清说，从这些实验中得出的结论不具有约束力，但将有助于探索关于 AI 治理的重大问题。

这些赠款由 OpenAI 的非营利部门资助，该组织打算将项目的成果免费向公众开放。这一倡议的出现正值世界各国政府考虑实施针对通用生成式 AI 的法规。 

OpenAI 采用

OpenAI 首席执行官 Sam Altman 最近与欧洲监管机构接触，强调通过非限制性法规促进创新的重要性。Altman 还在美国国会作证，传达了类似的信息。

OpenAI 的 公告 符合这样一种信念，即法律应专门针对技术量身定制，突显了需要更复杂且适应性更强的指南来规范 AI 行为。该组织提出了发人深省的问题，例如争议观点应如何在 AI 输出中体现，强调没有任何单一实体（无论是个人、公司还是国家）应单方面决定此类事项。

该公司此前曾警告，如果开发方式不够深思熟虑，超级人类 AI 可能会在未来十年内出现，强调了“做对”的重要性。该组织的新赠款计划旨在促进包容性和公众意见在塑造 AI 开发未来中的作用，最终致力于负责任且有益地推进该技术。