AI军备竞赛监管是否是应对日益增长全球安全威胁的答案？

人工智能（AI）的快速演变给生活的各个方面带来了显著的变革，从教育和工作到探索和通信。然而，人们对AI在战争中的应用日益担忧，这种担忧甚至与气候变化构成的威胁相提并论。AI在军事技术中的无节制发展可能导致灾难性后果，正如正在进行的AI军备竞赛所显示的那样。

AI已经在战斗场景中留下了印记。值得注意的是，2020年3月，一架土耳其制造的无人机利用面部识别技术 targeting 利比亚的敌方战斗人员。然而，尽管取得了不可否认的进步，对这些尖端武器缺乏有效监管引发了关于其是否符合国际人道主义法的关键问题。自主武器能否可靠地区分平民和战斗人员？它们是否会尽量减少对非战斗人员的伤害？确保这些武器在情绪激动的情况下做出明智判断的挑战仍然是一个紧迫的担忧。

进一步的担忧是，在缺乏人类干预的情况下，很难追究潜在战争罪的责任。允许机器做出生死攸关的决定，将人类降级为 mere data points，可能导致数字非人化。此外，AI武器技术的扩散降低了国家诉诸武装冲突的门槛，因为伤亡减少，这是一个可能引发一系列不可预见冲突的令人担忧的趋势。

非国家行为者阴影下的灾难性可能性

在国家支持的AI武器开发之外，还存在非国家行为者获取和部署这些武器的迫在眉睫的威胁。如果AI武器变得容易获得且成本效益高，传统战争领域之外的团体可能会利用其破坏潜力。追踪这些武器来源的困难可能使非国家行为者能够在保持合理否认的同时制造混乱，进一步加剧全球安全危机。

无声的AI军备竞赛成为全球挑战

AI武器的影响并未被忽视。普京在一份发人深省的声明中强调，在AI领域的优势等同于全球统治，强调了正在进行的AI军备竞赛的竞争性质。这一趋势的一个显著例子是五角大楼提出的高达1450亿美元的预算请求，旨在加强技术能力并与私营部门创新者建立联盟。设立战略资本办公室（OSC）以激励对军事技术的私人投资，反映了对“可信AI和自主权”的战略重点。

中国的角色和伦理考量

作为AI竞赛的主要参与者，中国通过军民融合（MCF）政策呼应了美国对AI主导地位的追求。与美国军工综合体类似，中国的MCF战略旨在实现AI技术的领导地位。这些战略的融合标志着围绕战争中AI的伦理和法律问题的严重性。然而，全球缺乏单一权威机构来建立全面的AI标准，使得在国际上就战争中使用AI的最低标准达成共识的紧迫性至关重要。

大型语言模型（LLMs）释放的潜力成为令人不安的前景

大型语言模型（LLMs）在信息战中的部署引发了令人不安的前景。虽然像ChatGPT这样的模型因生成虚假信息而受到批评，但更先进的LLMs可能被各国利用来传播针对对手的欺骗性叙事。军用级LLM可能助长假新闻，伪造深度伪造，加剧网络钓鱼攻击，甚至破坏一个国家的信息生态系统。美国国防部官员将ChatGPT称为“热门话题”的事实，突显了人们日益认识到这项技术的威力。

呼吁监管和复杂的全球格局

包括ChatGPT在内的美国AI公司敦促国会监管AI技术，承认道德准则的必要性。然而，辨别国家与私营部门影响的界限 presents a convoluted challenge。例如，以色列出现了由前军事官员创立的双用途科技公司。尽管这些技术被用于军事目标定位，但它们基本上未受监管，引发了关于AI有效治理体系的问题。

滴答作响的时钟和全球响应

与核武器监管的渐进进展相比，AI军备竞赛的特点是速度迅速，由不懈的创新推动。建立有效AI监管的狭窄窗口正在快速关闭，提出了一个关键问题：国际社会是否会迅速采取行动，以避免无节制AI军备竞赛带来的潜在危险？随着各国竞相利用AI的力量，开展国际合作以定义道德标准并控制AI武器扩散的必要性从未如此迫切。