中美科技竞争与全球AI安全的紧迫性

随着世界应对人工智能（AI）的快速发展，政策制定者面临着一个紧迫的困境：AI可能引入超越国界的灾难性风险。虽然这些风险的确切性质和概率仍然不确定，但专家强调需要采取主动措施来防止AI灾难。 

AI灾难的挑战

AI可能会带来具有深远后果的灾难性事件。其中包括恶意利用AI制造致命病原体、AI驱动的金融危机工程，以及出现超出人类控制的流氓AI系统。AI灾难的不可预测性导致许多人将其视为遥远的可能性。然而，在采取行动之前等待确凿证据可能为时已晚，正如COVID-19大流行所证明的那样。

从过去吸取教训，我们必须认识到人们难以理解遥远风险的重要性。Bill Gates关于易受快速传播病毒侵害的警告未被重视，直到冠状病毒大流行的毁灭性影响成为现实。我们在应对AI的不确定性时，绝不能重蹈覆辙。

AI技术的逐步采用

麻省理工学院教授Daron Acemoglu和Todd Lensman提出了一种谨慎采用变革性技术的方法。社会应逐步采用新技术，以便有时间进行风险评估。一旦更确定灾难不太可能发生，社会就可以加速采用。然而，目前领先国家的做法与这种方法背道而驰。

美国和中国目前正处于激烈的竞争中，以确立在AI领域的主导地位。两国都渴望推进其AI能力，但这种竞争缺乏对AI安全的相应关注。

在美国，尖端AI公司正在开发具有潜在公共安全风险的基础模型。尽管在AI开发方面投入了大量资金，但这些公司在确保AI安全方面分配的资源有限。Joe Biden总统最近的行政命令旨在通过要求前沿AI模型开发者与政府分享安全测试结果和重要信息来解决这一问题。此外，美国已采取措施遏制中国的AI进步，包括出口限制和禁止美国投资中国的AI领域。这些行动虽然减缓了中国的进步，但也鼓励中国公司追求技术自给自足，这可能会使AI风险评估更加复杂。

中美科技竞争对AI安全的影响

ongoing（持续的）科技竞争也影响了北京对AI监管的方法。虽然中国引入了针对生成式AI服务的全面法规，但这些主要适用于公共服务，并侧重于内容和信息控制。用于商业目的的服务受到的监管较少，反映了中国在这一关键科技领域促进增长以与美国竞争的战略。这种竞争可能会引发世界主要AI强国之间在AI治理方面的“逐底竞争”。

国际合作的重要性

为了应对迫在眉睫的AI风险，国际社会必须认识到潜在的灾难性后果，并敦促全球AI企业建立强大的安全协议。即将举行的英国AI安全峰会是启动这些重要问题对话的关键起点。

人工智能领域的中美科技竞争引发了对忽视AI安全的担忧。虽然竞争可以推动创新，但它不应掩盖在减轻AI风险方面进行合作的紧迫需求。世界必须吸取过去危机的教训，并主动共同努力，以确保AI的负责任开发和监管。只有通过国际合作，我们才能希望遏制AI技术可能带来的灾难性后果。