OpenAI呼吁建立全球人工智能安全框架，美中紧张局势持续

OpenAI表示，人工智能需要像核能一样的监管，并希望美国发起建立全球监管机构来处理这一问题。 

正如Cryptopolitan报道的那样，此时正值特朗普总统前往北京进行九年来首次中美国家访问，预计人工智能政策将在议程上。

根据OpenAI全球事务副总裁Chris Lehane的说法，特朗普和习近平同处一室是两国为人工智能建立持久事物的罕见机会。

“在某种程度上，人工智能超越了许多现有的或传统的贸易问题。这是一个真正开始在全球范围内建立某种事物的机会，包括中国在内的世界各国都可能参与，” Chris Lehane在一次简报会上说。

什么是OpenAI，为什么它对全球政策的意见如此重要？

OpenAI是开发了 ChatGPT的美国公司，这是一款每天被数亿人使用的流行人工智能助手/聊天机器人。

该公司一直参与关于强大人工智能系统的每一次重大辩论。其首席执行官Sam Altman通常会与国家元首会面讨论人工智能，甚至在美国国会作证，使该公司对全球人工智能政策拥有巨大影响力。

OpenAI还卷入了一场独立的法律纠纷，此前特斯拉首席执行官Elon Musk 起诉 在2024年起诉了该公司。Musk是OpenAI的联合创始人之一，他表示Sam Altman和其他高管违背了公司的非营利使命，将其转变为营利组织。 

审判仍在进行中，但本周更大的故事发生在北京。

OpenAI提出了什么建议，IAEA的比较是什么？

OpenAI全球事务副总裁Chris Lehane提议将两件事联系起来以创造新事物。

他希望美国商务部的 人工智能标准与创新中心 和人工智能安全研究所联合起来，建立一个全球网络。他使用了 国际原子能机构 （IAEA）作为例子，说明各国如何将核监管机构整合到一个总体机构中。 

美国商务部的“人工智能标准与创新中心”是一个为人工智能系统制定技术标准的政府机构。 

与此同时，各国正在全球范围内建立人工智能研究所。例如，英国有一个，欧盟正在制定框架，几个亚洲政府也在建立类似的机构。 

Lehane表示，统一的人工智能机构将有助于构建更安全、更具弹性的系统，使其不易受到攻击。他还希望美国政府强制要求研究人员在部署最强大的人工智能模型之前进行测试。 

什么是Mythos模型，为什么它让华盛顿和北京都感到不安？

Mythos 是一个新出现的强大人工智能模型，在操作系统和其他软件中发现了“数千个”重大漏洞。Anthropic（由Google和Amazon支持的人工智能安全公司）开发了Mythos。

Mythos的能力规模震惊了世界，银行和政府在其宣布后匆忙修复其安全防御。白宫官员甚至承认，像Mythos这样的模型使得与中国的沟通比以往任何时候都更加重要。 

中国被排除在Mythos预览的早期访问之外，引发了人们对该国开发人员和政府防御使用人工智能模型攻击的能力的担忧。 

市场情报公司 IDC China 甚至警告称，将中国排除在Mythos之外可能会在中国和西方之间造成人工智能防御能力的“代际差距”。 

根据 研究人员表示，攻击者可以利用先进的人工智能设计生物武器、引发金融冲击，或在无人控制的情况下自主行动。最可怕的部分是，人工智能只需要强大、快速，并指向错误的方向，就能做到所有这些。 

特朗普-习近平会晤发生了什么，他们讨论了什么问题？

前往中国的美国代表团包括英伟达首席执行官Jensen Huang和白宫高级技术政策顾问Michael Kratsios。他们的出席使这次访问成为优先事项和紧迫问题，因为双方都准备直接讨论人工智能问题。 

中国提议由财政部长 斯科特·贝森特 和中国财政部副部长廖岷领导的人工智能问题正式对话。但由于两个机构都不专门从事人工智能，因此对该渠道的预期很低。

美国还计划提出担忧，即中国开发人员正在使用先进人工智能模型的输出来构建系统，成本仅为 一小部分 ，但安全护栏较少。

双方还讨论了建立无责热线以报告涉嫌人工智能驱动事件的可能性，类似于军事热线。

分析师甚至建议，两国政府可以承诺为前沿人工智能模型设定护栏，类似于2015年的中美 网络安全协议.

。最后，讨论还可能涉及 MATCH Act，这是一项旨在限制中国获取半导体供应链的美国拟议法律。 

清华大学Sun Chenghao参与了中美人工智能会谈，并表示美国应在管理人工智能安全风险和单纯试图阻止中国技术发展之间划清界限。 

“中国可能希望美国能适当区分人工智能治理和技术遏制，” Sun Chenghao说。