美国证券交易委员会加强对金融机构人工智能应用的审查

美国证券交易委员会（SEC）主席杰森·克莱斯勒（Gensler）在2023年12月5日于华盛顿特区举行的The Messenger“人工智能：平衡创新与监管”峰会上，升级了对证券行业人工智能技术的审查力度，并警告警惕“AI洗白”行为。针对公司对其人工智能技术及其潜力的虚假陈述，克莱斯勒指出，此类行为属于证券法规的管辖范围，要求“充分、公平且真实”地披露信息。

SEC审查金融机构中的人工智能实施情况

随着SEC加强对人工智能的关注，其审查部门启动了对投资顾问利用和治理人工智能技术的全面审查。此次审查涵盖多个方面，包括营销材料、第三方提供商、利益冲突以及系统故障的应急计划。从此次审查中收集的信息将在塑造SEC关于证券行业人工智能监管的规则制定议程中发挥关键作用。

尽管SEC多年来已承认人工智能的存在并自行利用该技术，但克莱斯勒主席仍坚持警告人工智能带来的微观和宏观问题。SEC持续的审查，加上克莱斯勒对微观层面潜在偏见和利益冲突的担忧，以及对宏观层面因单一文化导致市场不稳定的忧虑，表明其采取主动立场以应对金融领域人工智能带来的挑战。

受监管实体的指南

建议券商、投资顾问及其他受监管实体谨慎应对将人工智能技术整合到其运营中的复杂性。克莱斯勒强调了几项关键考量，敦促实体理解人工智能模型和数据集，优先考虑数据隐私和知识产权保护，防范欺骗性活动，并修订披露信息和营销材料以确保准确性。

理解 AI 架构和数据集动态 – 受监管实体被鼓励深入研究 AI 模型和底层数据集的复杂性。认识到算法和数据带来的各种风险，实体必须实施强大的控制措施，制定准确的披露，并遵守相关的注意标准，以与客户保持透明。

保护数据隐私和保留知识产权 – 保护数据隐私和知识产权至关重要。对数据集和收集过程的尽职调查，特别是在生成式 AI 场景中，是必不可少的。缓解措施包括了解数据来源、遵守数据限制原则、删除不必要的数据、评估子集、对数据进行标记化或匿名化，以及对 AI 输出进行人工验证。

处理非公开重大信息并遏制市场扭曲 – 除了披露和利益冲突考量外，美国证券交易委员会 (SEC) 将密切监控 AI 用于内幕交易和市场操纵等欺骗性活动。实体必须审查数据集以查找重大非公开信息，实施控制措施以防止交易算法和生成式 AI 人为影响证券价格，并遵守有关使用或披露机密信息的限制。

定期审查披露信息并在需要时更新 – 行业参与者被敦促不断审查和更新其披露信息和营销材料。准确代表 AI 技术及其用途和能力对于维持信任和监管合规至关重要。

SEC与人工智能——驾驭负责任的整合

随着 美国证券交易委员会 继续全面审查证券行业中的 AI，受监管实体有责任以负责任的方式驾驭 AI 整合的不断变化的格局。Gensler 主席概述的挑战强调了一种微妙方法的需求，在创新与监管合规之间取得平衡。行业参与者将如何回应这些指南，以及可以采取哪些进一步措施来确保在不断变化的金融格局中负责任地使用 AI？