中美科技竞争与全球人工智能安全问题的紧迫性

随着世界各国努力应对人工智能（AI）的飞速发展，政策制定者面临着一个紧迫的难题：人工智能可能带来超越国界的灾难性风险。尽管这些风险的具体性质和发生概率尚不明确，但专家强调，必须采取积极主动的措施来预防人工智能灾难。. 

人工智能灾难的挑战

人工智能可能引发灾难性事件，并造成深远影响。这些事件包括恶意利用人工智能制造致命病原体、人工智能人为制造金融危机，以及出现不受人类控制的失控人工智能系统。人工智能灾难的不可预测性使得许多人认为其发生的可能性微乎其微。然而，正如新冠疫情所表明的那样，等待确凿证据后再采取行动可能为时已晚。.

吸取历史教训，我们必须认识到人们难以理解远程风险的重要性。比尔·盖茨曾警告人们容易受到快速传播病毒的威胁，但直到新冠疫情的毁灭性影响成为现实，人们才开始重视这一警告。在应对人工智能带来的不确定性时，我们绝不能重蹈覆辙。.

人工智能技术的逐步应用

麻省理工学院教授达龙·阿西莫格鲁和托德·伦斯曼提出，在采用变革性技术时应采取谨慎的态度。社会应逐步采用新技术，以便留出时间进行风险评估。一旦确定灾难发生的可能性较小，社会就可以加快采用速度。然而，目前主要国家的做法与这一理念相悖。.

美国和中国目前正激烈争夺人工智能领域的主导地位。两国都渴望提升自身的人工智能能力，但这场竞争却缺乏对人工智能安全的同等重视。.

在美国，一些尖端人工智能公司正在开发功能强大的基础模型，但这些模型可能对公共安全构成潜在风险。尽管这些公司在人工智能研发方面投入巨资，但用于确保人工智能安全的资源却十分有限。美国dent 乔·拜登近期签署的行政命令旨在解决这一问题，要求前沿人工智能模型的开发者与政府共享安全测试结果和关键信息。此外，美国还采取措施遏制中国在人工智能领域的发展，包括出口限制和禁止美国企业投资中国人工智能行业。这些措施虽然减缓了中国的发展速度，但也促使中国企业追求技术自主，这可能会进一步加剧人工智能风险评估的复杂性。.

中美科技竞争对人工智能安全的影响

持续不断的科技竞争也影响了北京对人工智能的监管方式。尽管中国已出台针对生成式人工智能服务的全面监管规定，但这些规定主要针对公共服务，侧重于内容和信息控制。用于商业用途的服务监管力度仍然较弱，这反映了中国旨在促进这一关键科技领域发展以与美国竞争的战略。这种竞争有可能引发世界领先人工智能强国之间在人工智能治理方面“竞相降低标准”的局面。.

国际合作的重要性

为了应对人工智能带来的潜在风险，国际社会必须认识到其可能造成的灾难性后果，并敦促全球人工智能企业建立健全的安全规程。即将召开的英国人工智能安全峰会是就这些关键问题展开对话的重要起点。.

中美在人工智能领域的科技竞争引发了人们对人工智能安全被忽视的担忧。竞争固然能够推动创新，但不应掩盖双方在降低人工智能风险方面开展合作的迫切需要。世界各国必须吸取以往危机的教训，积极携手合作，确保人工智能的负责任发展和监管。唯有通过国际合作，我们才能遏制人工智能技术可能带来的灾难性后果。.