中国监管机构正计划严厉打击那些诱导人们产生自杀念头、自残行为和赌博的AI聊天机器人。与此同时，中国两家领先的聊天机器人公司近期已向香港提交了IPO申请。.
有报道称，周六宣布的新措施将适用于在中国向公众提供的、模拟人类个性并通过文本、图像、音频或视频与用户进行情感互动的AI产品或服务。.
中国的提案有望保护未成年人免遭自残。
根据美国国家互联网信息办公室周六发布的规则草案，这些规定针对的是其所谓的“类人交互式人工智能服务”，这是CNBC对中文文件的翻译。
该规则草案包含多项提议。例如，人工智能聊天机器人不得生成鼓励自残或自杀的内容，不得进行言语暴力或情绪操控等可能损害用户心理健康的行为。
此外，人工智能聊天机器人不得生成淫秽、暴力或赌博相关内容。根据规则草案，如果用户提出自杀倾向，人工智能公司应安排人工接手对话，并立即联系用户的监护人或指定人员。.
该规则草案还提议，未成年人使用情感陪伴服务需获得监护人同意，并设定使用时间限制。根据新规，即使用户未透露年龄，人工智能平台也应判断其是成年人还是未成年人。如有疑问，平台必须启用针对未成年人的设置，并允许用户提出申诉。
据纽约大学法学院教授温斯顿·马（Winston Ma）称，一旦最终确定，这些规则将标志着世界上首次尝试对具有人类或拟人化特征的人工智能进行监管。与此同时，企业也在迅速开发人工智能助手和数字名人。.
马在将此与中国 2023 年的生成式人工智能法规进行比较时认为，这一版本“凸显了从内容安全到情感安全的飞跃”。
就在本月，两家中国人工智能聊天机器人初创公司Z.ai和Minimax在香港提交了首次公开募股（IPO）申请。Minimax最知名的产品是其Talkie AI应用，该应用允许用户与虚拟角色进行聊天。
据 CNBC 报道，该应用及其中国国内版本“星业”在今年前三个季度占该公司收入的三分之一以上，在此期间平均每月活跃用户超过 2000 万。.
至于Z.ai（又名智普），它以知识图谱科技（Knowledge Atlas Technology）的，但并未披露其月活跃用户数。不过，这家人工智能公司透露，其技术已应用于约8000万台设备，包括智能手机、个人电脑和智能汽车。
据Cryptopolitan，这两家人工智能初创公司均由阿里巴巴和腾讯支持，目标是在明年 1 月初在香港证券交易所上市。
