美国商务部提议对人工智能和云服务提供商实施新的报告规则

美国商务部已提议对先进人工智能开发人员和云服务提供商实施新的报告要求，以确保技术的安全性和安全性。

工业和安全局（BIS）明确表示，前沿创造型公司和投资超级计算机创建的工程集群管理企业将有义务向联邦当局提交某些关键开发活动。这一趋势旨在减少与网络安全相关的安全威胁，以及人工智能资源的错误应用。

根据新提案，开发人员将被要求披露有关其人工智能系统的详细信息，特别是侧重于网络安全措施和红队测试工作。红队测试是网络安全中用于评估人工智能有害用途的一种技术，例如 enabling 网络恐怖主义或促进大规模杀伤性武器的创建。

人工智能开发人员面临报告网络安全措施和风险测试的新指令

商务部的提案还要求人工智能开发人员在报告中包括红队测试活动的结果，特别是与网络攻击等危险能力相关的活动。这种方法起源于冷战模拟，通过模拟攻击或漏洞来识别风险。

组织将被要求更新其人工智能系统抵御攻击的能力，即使来自外国利益或非国家行为体，这些行为体可能希望滥用系统进行关键恶意目的。

生成式人工智能可以根据用户提示创建文本、图像或视频，引发了担忧。虽然该技术在许多领域带来了进步，但也增加了对可能威胁的恐惧，如失业、选举干预以及人工智能统治人类的风险。

新的报告指南旨在确保人工智能模型的安全可靠开发，降低这些风险实现的可能性。

云服务提供商需满足新的安全和人工智能开发报告标准

除了人工智能开发人员外，拟议的规则还将涉及亚马逊网络服务（AWS）、Google Cloud 和 Microsoft Azure 等云服务提供商。这些平台在推动人工智能发展方面至关重要，必须遵守其基础设施网络安全的严格标准。商务部强调，这些信息对于防止其他国家滥用美国技术至关重要。

这一监管推动紧随乔·拜登总统于 2023 年 10 月签署的行政命令。该命令要求人工智能技术开发人员向美国政府提交其安全测试结果，然后才能向公众发布其技术。商务部发布的草案符合这一更广泛的目标，即保护国家的国家安全、公共健康和经济免受人工智能带来的威胁。

这一提案也follows 拜登政府此前为阻止中国获取美国人工智能开发技术而采取的措施，表明在这个不断扩大的行业中，安全担忧日益增加。