美国商务部提议对人工智能和云服务提供商制定新的报告规则

美国商务部已提出针对先进人工智能开发商和云服务提供商的新报告要求，以确保该技术的安全可靠。.

美国工业与安全局（BIS）明确表示，投资于超级计算机研发的前沿创新企业和工程集群管理公司有义务向联邦政府提交某些关键的研发活动。此举旨在降低网络安全威胁以及人工智能资源滥用的风险。.

根据这项新提案，开发者将被要求披露其人工智能系统的详细信息，尤其要重点关注网络安全措施和红队演练。红队演练是网络安全领域的一项技术，用于评估人工智能的有害用途，例如用于网络恐怖主义或制造大规模杀伤性武器。.

人工智能开发者面临新的强制性要求，需要报告网络安全措施和风险测试情况。

美国商务部的提案还要求人工智能开发商在其报告中纳入红队演练的结果，特别是与网络攻击等危险能力相关的结果。这种方法源于冷战时期的模拟演练，通过模拟攻击或入侵dent风险。.

各组织将被要求更新其人工智能系统抵御攻击的能力，即使是来自外国利益集团或非国家行为体的攻击，这些行为体可能想要滥用该系统达到严重的恶意目的。.

生成式人工智能能够根据用户提示创建文本、图像或视频，这引发了诸多担忧。尽管这项技术在许多领域都带来了进步，但也加剧了人们对潜在威胁的担忧，例如失业、干预选举以及人工智能凌驾于人类之上的风险。.

新的报告准则旨在确保人工智能模型的安全可靠开发，降低这些风险发生的可能性。.

云服务提供商必须遵守关于安全性和人工智能开发的新报告标准

除了人工智能开发商之外，拟议规则还将涉及亚马逊网络服务 (AWS)、谷歌云和微软 Azure 等云服务提供商。这些平台对于推进人工智能发展至关重要，必须遵守严格的基础设施网络安全标准。美国商务部强调，这些信息对于防止其他国家滥用美国技术至关重要。.

此次监管举措源于乔·拜登dent 于2023年10月签署的行政命令。该命令要求人工智能技术开发商在向公众发布其技术之前，必须向美国政府提交安全测试结果。商务部发布的草案与这一更广泛的目标相符，旨在保护国家安全、公共卫生和经济免受人工智能带来的威胁。.

该提案也延续了拜登政府此前为进一步采取措施阻止中国获取美国人工智能技术而采取的努力，这表明在这个不断扩张的行业中，安全问题日益受到关注。.