美国国家标准与技术研究院 (NIST) 积极应对人工智能 (AI) 带来的挑战，发布了四份草案，旨在确保人工智能系统的安全性、可靠性和稳定性。在2024年6月2日结束的公众评议期内，这些草案将公开征求意见。此举体现了NIST对2023年10月人工智能行政命令的响应，该命令强调在促进负责任的创新和维护美国技术领先地位的同时，减轻人工智能技术的影响。.
缓解生成式人工智能风险
(NIST)中重点关注生成式人工智能 (AI) 技术带来的安全威胁。AI RMF AI 生成式 AI 概况列出了 12 项风险，涵盖从敏感信息高可访问性到仇恨言论和恶意内容传播等各个方面。应对这些风险一直是 NIST 的重点工作，NIST 已确定了dent多项组织可以考虑的潜在风险管理措施。该框架为开发人员提供了一个可遵循的结构，帮助他们调整目标和优先级。
最大限度降低训练数据风险
草案中提出的另一项关键内容是如何保护用于训练人工智能系统的数据。作为美国国家标准与技术研究院 (NIST) 现有指南的一部分，《生成式人工智能和双用途基础模型的安全软件开发实践》草案旨在应对恶意训练数据带来的担忧，从而保障人工智能系统的完整性。NIST 提出了一些确保计算机代码安全的方法，并针对数据收集和使用等数据问题提供了解决方案。这将使人工智能系统更能抵御潜在威胁。.
鼓励提高人工智能生成内容的透明度
为应对合成数字材料数量的快速增长，美国国家标准与技术研究院 (NIST) 正在制定缓解措施，以应对其带来的风险。相关措施将在即将发布的《降低合成材料风险》文件中阐述。NIST 试图通过数字水印和元数据记录技术，实现对篡改媒体的 trac和dent，从而有望防止一些负面后果的发生，例如未经同意的私密照片和儿童性虐待材料的传播。.
推动全球参与人工智能标准制定
美国国家标准与技术研究院 (NIST) 认识到国际合作是制定人工智能相关标准的关键之一，因此起草了《人工智能标准全球参与计划》。该计划旨在鼓励国际盟友、标准制定组织和私营部门之间的合作与协调，以加快人工智能技术标准的制定。NIST 将内容来源识别和测试方法置于首要位置，力求建立一个tron的机制，确保人工智能技术在全球范围内安全且合乎伦理地运行。
启动 NIST GenAI
此外，该研究所还开发了NIST GenAI，这是一款用于评估和量化生成式人工智能工具能力的软件工具。NIST GenAI将成为NIST人工智能安全研究所发布挑战性问题和试点评估的工具，以帮助NIST的美国人工智能安全研究所区分人工智能算法的输入和人类生成的内容。该计划的主要目标是提高信息的可靠性，并为人工智能时代内容创作的伦理层面提供指导。.
美国国家标准与技术研究院 (NIST) 发布这些报告草案并启动 NIST GenAI 平台，标志着其积极主动地致力于解决人工智能 (AI) 相关问题，这些问题不仅挑战着我们的社会，也保障了社会创新安全。NIST 通过向关键利益相关者（例如已开发或部署 AI 技术的公司）征求意见，该平台能够影响 AI 安全性和标准指南的制定。通过积极参与这一过程，利益相关者可以帮助建立最佳实践和行业标准方法，最终构建一个安全可靠的 AI 生态系统。.
