英国政府在将人工智能（AI）应用于国防领域，尤其是在人工智能赋能的自主武器系统（AWS）方面，其雄心勃勃的计划受到了警告。英国上议院武器系统委员会的一份人工智能报告强调，在人工智能的开发和使用过程中，尤其是在自主武器系统方面，必须考虑伦理和法律因素、公众信任以及民主认可。
通过AWS将人工智能融入战争的潜在可能性被誉为国防技术领域的变革性突破。然而，英国上议院委员会强调，必须采取谨慎负责的态度，在不违背伦理和法律原则的前提下，充分利用人工智能的优势。
主要建议
英国上议院委员会的报告提出了几项关键建议，以指导政府在战争中运用人工智能的方法：
1. 在国际监管领域处于领先地位
英国政府应在人工智能监管的国际合作中发挥领导作用。国际磋商的结果可能促成一项具有法律约束力的条约，也可能达成一些不具约束力的措施，以明确国际人道主义法的适用。此外，英国还应带头努力禁止在核指挥、控制和通信中使用人工智能。
2. 建立操作性 defi
令人惊讶的是，英国政府目前缺乏对“危险废物”（AWS）的明确 defi。委员会提议制定一个面向未来的 defi，以促进政策制定和参与国际对话。清晰的 defi对于就“危险废物”相关讨论进行有意义的互动至关重要。
3. 确保人为控制
委员会强调在AWS生命周期的所有阶段都应保持人为控制。这包括部署阶段，以确保人的道德自主性和法律合规性，并符合国际人道主义法。该报告强调了英国对这些要求的承诺。
4. 改进采购流程
国防部的采购流程因缺乏问责制和官僚作风严重而饱受诟病。此外，该部还被指出在软件和数据方面能力不足，而这两者对于人工智能的发展都至关重要。委员会警告称，可能需要进行革命性的变革，并强调解决这些问题的紧迫性。
主席的观点
武器系统人工智能委员会主席利斯韦恩勋爵指出：“人工智能已经渗透到我们生活的方方面面，国防领域也不例外。它革新国防技术的潜力一直备受争议。虽然人工智能可能带来巨大的战略和战场优势，但我们的报告《谨慎行事：武器系统中的人工智能》强调，政府必须采取谨慎的态度。”
利斯韦恩勋爵进一步表示：“我们欢迎政府认可负责任的人工智能在未来国防能力建设中的作用。然而，在AWS人工智能的每个阶段都必须融入伦理和法律原则，同时努力确保公众理解和民主认可。技术应该增强我们的能力，但不能以牺牲我们的道德原则为代价。”
英国上议院委员会的报告强调了人工智能在国防领域的变革潜力，同时敦促英国政府谨慎、负责、透明地推进相关工作。报告建议强调国际领导、行动清晰、人为控制以及改进采购流程的重要性，以确保人工智能在维护国家安全的前提下，不损害伦理和法律。
随着人工智能时代的到来，全球格局不断演变，英国在战争中运用人工智能的方式无疑将影响国际讨论和法规，塑造全球自主武器系统的未来。
