- 快速采用生成式人工智能需要定制化的安全策略，以在推动创新的同时降低风险。
- 首席信息安全官必须将人工智能安全策略与多样化的业务需求对齐，并强调主动控制措施。
- 拥抱生成式人工智能，制定清晰、易访问的策略，以实现安全且负责任的采用。
企业在生成式 AI 采用方面的激增在网络安全界引起了警报，凸显了制定全面安全政策的紧迫性。生成式 AI 的快速演变，加上其巨大的潜力和固有的安全风险，导致指导其使用的指南滞后于其广泛采用。
建立强大的生成式 AI 安全政策
对于首席信息官（CISO）来说，信息很明确：面对日益增长的业务使用，必须立即采取行动制定强大的 AI 安全政策，专门针对生成式 AI 带来的独特挑战。与传统 AI 不同，生成式 AI 正在迅速演变，带来了需要主动措施的严重安全影响。
最近的调查显示，生成式 AI 的采用率大幅上升，79% 的公共部门和 83% 的私营部门组织将其纳入生产系统。采用的主要驱动因素包括提高生产力、创新和想法生成的自动化，以及应对网络风险。此外，外部创建的大型语言模型（LLM）的快速采用引发了对第三方风险以及需要伦理原则来指导 AI 和 LLM 监管的担忧。
安全政策要求：从影子 IT 中吸取教训
从影子 IT 带来的挑战中吸取教训，组织被敦促不要拖延，并迅速为生成式 AI 制定安全政策。历史数据表明，对新兴技术的延迟反应（如在影子 IT 中看到的）可能导致无法管理的安全风险。当务之急是在支持创新和缓解生成式 AI 快速采用带来的风险之间取得平衡。
制定有效的生成式 AI 安全政策
CISO 面临的关键挑战在于制定网络安全政策，这些政策不仅要支持业务采用，还要有效解决风险而不扼杀创新。强调与业务目标一致的上至下方法，这些政策应包括访问控制、数据加密和主动威胁管理。生成式 AI 的动态性质需要一个持续的反馈循环，以适应不断变化的业务用例和新兴风险。
将生成式 AI 安全政策与业务需求保持一致既是一个挑战也是一个机会。组织主要采购生成式 AI 而不是构建它，需要对各种业务用例有全面的了解。这种对齐允许从一开始就集成安全控制，防止安全政策孤立存在，并确保适用于不同的业务功能。
用例风险管理：根据业务需求定制政策
认识到生成式 AI 用例因企业和部门而异，鼓励 CISO 采用细微的用例风险管理方法。对 AI 使用的一刀切禁令可能会扼杀创新，因此需要对特定部门的需求有详细的了解。根据信息的敏感性和监管要求区分政策至关重要，避免一刀切的解决方案。
承认生成式 AI 不断发展的能力，CISO 面临着跟上技术进步的挑战。考虑到技能短缺，外部专家的帮助对于 CISO 主动管理生成式 AI 安全可能至关重要。同时，组织必须投资员工培训，以确保负责任地使用生成式 AI，强调相关风险以及企业采用的经过验证的安全方法。
生成式 AI 政策的关键要素
有效的生成式 AI 安全政策应包括数据安全措施，如加密、匿名化和数据分类。鉴于 AI 系统处理的大量数据，必须实施强大的控制措施以防止未经授权访问、使用或传输敏感信息。建议 CISO 专注于内部人员风险管理的新兴领域，如数据丢失预防和检测能力，以保障生成式 AI 的使用。
生成式 AI 政策不仅应规范数据输入，还应解决生成内容的可靠性。对大型语言模型中“幻觉”和不准确性的担忧 necessitate 明确的流程进行人工审查，确保在影响关键业务决策之前验证生成的内容。未经授权代码执行以及生成式 AI 增强攻击的潜力也应纳入安全政策的范畴。
面向未来的生成式 AI 安全政策
组织建立强大生成式 AI 安全政策的紧迫性至关重要。CISO 必须驾驭不断变化的格局，将政策与业务需求保持一致，并主动解决新兴威胁。随着生成式 AI 继续迅速崛起，一份沟通良好且易于访问的安全政策，涵盖供应链管理和员工教育，对于促进安全且负责任的 AI 采用将起到关键作用。
最聪明的加密领域人士已经在阅读我们的通讯。想加入吗？加入他们。
免责声明。 本文提供的信息不构成交易建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资，我们不承担任何责任。我们强烈建议在进行任何投资决策之前，进行独立研究或咨询合格的专业人士。
德里克·克林顿
Derrick 是一位对区块链和加密货币感兴趣的自由撰稿人。他主要致力于解决加密项目的问题与方案，并提供投资市场前景分析。他将分析才能应用于这些课题。
