国家安全危在旦夕——英国人工智能研究所敦促在部署生成式人工智能技术时保持谨慎

作为一步举措，英国最高国家级人工智能研究所艾伦·图灵研究所（Alan Turing Institute）发布了一份综合报告，敦促政府为部署生成式人工智能设定“红线”，特别是在该技术可能在没有直接人类监督的情况下采取不可逆转行动的情境中。该报告于周五晚些时候发布，强调了该研究所对当前生成式人工智能工具不可靠和易出错性质的担忧，特别是在国家安全的高风险场景中。

生成式人工智能的不可靠性与国家安全风险

艾伦·图灵研究所的报告突出了当前生成式人工智能工具的不足，强调其不可靠性和易出错性，特别是在关键的国家安全背景下。这凸显了需要根本性的思维转变，以考虑到生成式人工智能以无意或偶然方式构成国家安全风险的情况。报告建议，用户对人工智能生成输出的过度依赖可能导致不愿挑战潜在有缺陷的信息。

报告特别指出，自主代理是生成式人工智能的主要应用领域，在国家安全背景下需要密切监督。虽然承认该技术有加速国家安全分析的潜力，但它警告说，自主代理缺乏人类水平的推理能力，无法复制避免失败所必需的风险本能理解。 

提出的缓解措施包括记录自主代理采取的行动和决定，在生成式人工智能输出的每个阶段附加警告，并记录最坏情况场景。

政府建议与严格限制

艾伦·图灵研究所建议在需要“完美信任”的领域实施严格限制，例如核指挥与控制，以及可能在警务和刑事司法等较少存在性威胁的领域。报告建议为控制关键基础设施的人工智能系统实施安全制动，类似于其他技术中的制动系统。然而，它强调考虑局限性和风险的重要性，特别是对于可能不分享操作人员谨慎态度的高级官员而言。

报告还将 生成式人工智能的恶意使用 标记为安全隐患，指出该技术加剧了现有的社会风险，如虚假信息、欺诈和儿童性虐待材料。不受准确性和透明度要求约束的恶意行为者构成了威胁。报告建议政府支持防篡改的水印功能，要求 NVIDIA 等 GPU 制造商做出承诺，并进行国际政府协调。报告承认实施面临的挑战是巨大的。

艾伦·图灵研究所紧急呼吁为“生成式人工智能设定红线”，该报告在技术创新与国家安全的微妙交汇点中导航。该研究所强调范式转变，承认当前生成式人工智能工具的不可靠性，特别是在高风险场景中，并强调了严格限制和安全措施的必要性。 

随着英国政府努力监管人工智能，这些建议作为路线图，敦促采取主动方法以减轻与自主代理和恶意使用相关的风险。问题依然存在：监管框架如何适应以平衡创新与安全，确保生成式人工智能在我们复杂的社会技术格局中的负责任演变？挑战在于将这些建议转化为有效政策，在促进持续技术进步的同时，防范潜在威胁。