美国网络安全和基础设施安全局 (CISA) 公布新的人工智能安全措施

网络安全和基础设施安全局 (CISA) 公布了新的建议，以响应国土安全部 (DHS) 对人工智能安全的重视。国土安全部不久前成立了一个专门的安全委员会，以强调人工智能安全的重要性。.

CISA针对关键领域的人工智能安全制定的指导方针

最新发布的指南面向被指定为关键基础设施的六个行业的业主和运营者，这些行业涵盖农业、医疗保健和信息技术等领域。该指南是一套最低要求，旨在通过使用负责任的人工智能技术，确保人工智能系统的安全性和弹性。这些指导方法为人工智能相关流程的治理、风险评估和持续管理提供指导。.

运营商可以采用 NIST 的人工智能风险管理框架，持续评估人工智能实施的影响和相关风险。这包括识别人工智能的依赖关系及其对环境的影响，并努力解决任何已发现的漏洞。该指南建议制定规则，提醒运营商开展人工智能使用情况dent调查，并建立专门的程序来报告与人工智能相关的安全风险。.

CISA 指出，首席信息安全官 (CISO) 需要了解人工智能供应链的关键路径，并对人工智能系统进行测试以dent安全漏洞。通过重点关注特定领域，基础设施所有者可以应对广泛的人工智能相关风险，包括设计缺陷、网络攻击和物理安全漏洞。.

人工智能在关键基础设施中的双重作用

该文件表明，人工智能有机会通过引入对外部环境的广泛感知、实现客户服务自动化、提高物理安全性和提高预测准确性来改变关键基础设施管理。. 

虽然这项创新将有助于全面增强基础设施系统的稳健性，但也可能使它们更容易受到新型攻击和故障的影响。.

这些指导方针只是国土安全部旨在克服将人工智能技术纳入国家安全框架的复杂性的一系列更广泛举措中的一个组成部分。国土安全部长亚历杭德罗·马约尔卡斯提醒道，人工智能的普及体现在两个方面：一是这项颠覆性技术的推广应用，二是它对关键系统敏感基础设施构成的威胁。风险评估小组对形势反应迅速，并通过专家协作开展战略举措，以dent和减轻潜在风险。.

国土安全部的人工智能计划

今年年初，美国国土安全部公布了其人工智能战略，阐述了DBDS路线图并宣布成立人工智能团队（AI Corps）。该团队计划于2024年组建，由50名专家组成，旨在提升国土安全部的人工智能能力。新成立的团队将汇聚科技领域的重量级人物，例如OpenAI的萨姆·奥特曼和Alphabet公司的桑达尔·皮查伊。.

美国网络安全和基础设施安全局 (CISA) 在新版人工智能指南中的职责不仅在于履行拜登政府近期发布的人工智能相关行政命令所赋予的义务，还在于为社会各领域开展类似风险分析树立先例。通过这种方式，美国政府彰显了其在“关键基础设施安全矩阵”中的领导地位，而该矩阵如今与人工智能密切相关。.