中国发布生成式人工智能服务管理暂行办法

2023 年 7 月 13 日，中国国家互联网信息办公室（CAC）与其他六个中国政府机构宣布发布《生成式人工智能服务管理暂行办法》。这些措施将于 2023 年 8 月 15 日生效，标志着中国在监管生成式人工智能服务方面的第一步。这些措施旨在平衡促进产业创新与发展，同时确保生成式人工智能技术的负责任和合规使用。以下是新发布措施的关键要点：

措施的适用范围

这些措施适用于生成式人工智能服务的提供，涵盖在中国向公众生成文本、图片、音频、视频或其他内容。虽然“向公众”一词尚未明确定义，但预计包括个人和企业用户，除非 CAC 提供进一步指导。值得注意的是，如果不涉及向公众提供服务，内部研究和生成式人工智能技术不受这些法规的约束。

中国用户并未被明确禁止使用海外提供商提供的生成式人工智能服务。但是，如果此类服务违反中国法律法规，CAC 可以采取必要措施。

服务提供商的关键义务

这些措施建立了一个全面的监管框架，对生成式人工智能服务的提供商施加了几项合规义务。一些关键要求包括：

1. 训练数据合规

服务提供商必须合法获取用于训练活动的数据和基础模型。他们必须确保其训练过程不侵犯他人的知识产权。如果在训练过程中处理个人信息，提供商必须获得个人的明确同意或依赖其他合法的处理基础。此外，必须采取措施提高训练数据的质量和真实性，同时遵守相关的网络安全、数据安全和个人信息保护法律。

2. 数据标注和质量保证

在进行技术研发期间进行数据标注的服务提供商，必须根据措施制定清晰、具体且可行的标注规则。他们还必须评估标注质量并进行抽查以验证标注准确性。必须为负责标注工作的人员提供适当的培训。

3. 个人信息保护

除了获得同意外，服务提供商还必须遵守个人信息保护义务。这包括避免收集不必要的个人信息，不保留或分享可能非法识别用户的信息和记录。提供商还必须及时响应用户与其个人信息相关的请求。

4. 内容审核和非法活动

服务提供商有责任及时应对平台上的非法内容，暂停生成和传输，并从其服务中删除此类内容。如果发现用户使用生成式人工智能服务进行非法活动，提供商必须发出警告，限制其访问相关功能，并可能暂停或终止其服务。必须保留相关记录并向主管监管机构报告。

5. 安全评估和算法备案：

具有“舆论属性或者社会动员能力”的生成式人工智能服务需要由 CAC 和其他相关监管机构进行安全评估。此外，服务提供商必须在服务启动后 10 个工作日内，按照中国《互联网信息服务算法推荐管理规定》对其算法进行备案。

执法

违反措施的行为将根据包括《网络安全法》、《数据安全法》、《个人信息保护法》和《科学技术进步法》在内的各种现有法律受到处罚。主管监管机构有权要求服务提供商配合进行监督和检查，寻求关于训练数据来源、标注规则、算法机制以及必要的技术和数据支持方面的解释。

随着《生成式人工智能服务管理暂行办法》的发布，中国在监管生成式人工智能技术和服务方面迈出了重要一步。这些措施旨在平衡促进产业创新，同时确保遵守现有法律并保障用户权利和数据。随着实施日期的临近，在中国运营的服务提供商必须严格遵守这些新义务，以避免潜在的处罚和监管行动。