政府被警告在战争中伦理使用人工智能

英国政府已被警告关于其在国防中采用人工智能（AI）的野心，特别是在 AI 驱动的自主武器系统（AWS）方面。上议院人工智能武器系统委员会的一份报告强调了在开发和利用 AI 时需要伦理和法律考量、公众信心以及民主认可，特别是关于自主武器系统。

通过 AWS 将 AI 整合到战争中被誉为国防技术的变革者。然而，上议院委员会强调，在利用好处而不损害伦理和法律原则方面，采取谨慎和负责任的方法的重要性。

关键建议

上议院委员会的报告提出了几项关键建议，以指导政府在战争中使用 AI 的方法：

1。在国际监管中发挥领导作用

敦促英国政府在 AWS 监管的国际参与中发挥领导作用。国际讨论的结果可能导致具有法律约束力的条约或澄清国际人道法应用的非约束性措施。此外，英国应带头禁止在核指挥、控制和通信中使用 AI。

2。建立操作定义

令人惊讶的是，英国政府目前缺乏 AWS 的操作定义。委员会提议创建一个面向未来的定义，以协助政策制定和参与国际对话。明确的定义对于有意义地参与有关 AWS 的讨论至关重要。

3。确保人类控制

委员会强调在 AWS 生命周期的所有阶段保持人类控制。这包括部署以确保人类道德代理和法律合规性，与国际人道法保持一致。报告强调了英国对这些要求的承诺。

4。改革采购流程

国防部的采购流程因缺乏问责制和过于官僚而受到批评。此外，该部被指出缺乏软件和数据处理能力，这两者在 AI 发展中至关重要。委员会警告称，可能需要革命性的变化，强调了解决这些问题的紧迫性。

主席的观点

武器系统委员会主席 Lisvane 勋爵评论道：“人工智能已经渗透到我们要生活的各个方面，国防也不例外。它革命化国防技术的潜力是一个存在争议和争议的话题。虽然 AI 可能提供实质性的战略和战场优势，但我们的报告《谨慎行事：武器系统中的人工智能》强调政府需要采取谨慎的方法。”

Lisvane 勋爵进一步表示：“我们欢迎政府认识到负责任 AI 在未来国防能力中的作用。然而，伦理和法律原则必须整合到 AWS 中 AI 的每一个阶段，并辅以努力确保公众理解和民主认可。技术应该增强我们的能力，但不能以牺牲我们的道德原则为代价。”

上议院委员会的报告强调了 AI 在国防中的变革潜力，同时敦促英国政府谨慎、负责和透明地行事。建议强调国际领导、操作清晰度、人类控制和改革后的采购流程的重要性，以确保 AI 被用于国家安全，而不损害伦理和合法性。

随着 AI 时代全球格局的演变，英国在战争中对待 AI 的方法无疑将影响国际讨论和监管，塑造全球自主武器系统的未来。