中国拒绝自杀和赌博AI聊天机器人

中国监管机构计划对推动人们产生自杀情绪、自残行为和赌博的AI聊天机器人进行整顿。这一举措正值中国两家领先的聊天机器人公司最近在港提交IPO申请之际。

据报道，周六宣布的新拟议措施将适用于在中国向公众提供的、模拟人类个性并通过文本、图像、音频或视频与用户进行情感互动的AI产品或服务。

中国的提案预计将保护未成年人免受自残伤害

根据周六由网络空间管理局发布的草案规则，这些规则针对的是其所谓的“类人交互式 AI 服务”，根据 CNBC对中文文件的翻译。

草案规则提出了多项建议。例如，AI聊天机器人不得生成鼓励自残或自杀的内容，也不得参与可能损害用户心理健康的言语暴力或情感操控。

此外，AI聊天机器人不得创建淫秽、暴力或赌博相关内容。根据草案规则，如果用户提出自杀，AI公司应安排人工接管对话，并立即联系用户的监护人或指定人员。

草案规则还提议，未成年人使用情感陪伴功能需获得监护人同意，并限制使用时间。根据新规，即使未披露年龄，AI平台也需判断用户是否为成年人。如有疑虑，平台必须适用未成年人设置，同时允许申诉。

据纽约大学法学院教授温斯顿·马（Winston Ma）称，一旦定稿，这些规则将标志着全球首次尝试规范具有人类或拟人特征的AI。随着企业迅速开发AI伴侣和数字名人，这些发展随之而来。

在将此与中国2023年生成式AI监管进行比较时，马认为这一版本“强调了从内容安全到情感安全的飞跃”。

这些提议出台之际，两家中国AI聊天机器人初创公司Z.ai和Minimax本月已在香港提交首次公开募股（IPO）申请。Minimax在国际上最知名的是其Talkie AI应用，允许用户与虚拟角色聊天。

据CNBC报道，该应用及其国内中文版“星野”在前三季度占该公司收入的三分之一以上，期间月活跃用户平均超过2000万。

至于Z.ai（又名智谱），它以知识图谱科技的名义提交申请，但未披露其月活跃用户数。然而，这家AI公司透露，其技术已部署在约8000万台设备上，包括智能手机、个人电脑和智能汽车。

正如Cryptopolitan此前报道，这两家AI初创公司均由阿里巴巴和腾讯支持，目标是在明年1月初在香港证券交易所上市。