中国的AI法规迫使字节跳动和阿里巴巴关闭陪伴型机器人

字节跳动和阿里巴巴正在淘汰其用户构建的AI伴侣工具，以应对中国即将实施的人机交互新法规。 

字节跳动的Doubao定于7月15日禁用其自定义AI人格功能。该公司解释说，取消是“产品功能调整”的一部分。

它还指出，它将在10月15日前删除所有剩余数据或安全归档。紧随其后的是阿里巴巴的 Qwen 宣布将于7月10日移除其拟人化机器人，并于7月15日关闭所有代理功能。

这些平台的取消意味着用户将失去个性化功能。这些应用程序提供了一系列由用户和公司创建的定制代理，可以使用不同的语言风格执行特定任务。用户可以将他们的聊天机器人变成个人助理、导师或伴侣。

中国实施了规范人机交互的框架

Doubao和Qwen 在腾讯的Yuanbao已经移除其自己的AI代理工具几天后 发布了他们的公告。Yuanbao解释说，在入口点被禁用后，用户将不再看到相关对话，这些对话将根据平台的数据保留政策进行清理。 

这些关闭与7月15日生效的新法律的实施有关。该“基于人工智能的人机交互服务管理暂行办法”于4月提出，旨在 监管AI 模仿人类性格特征和认知风格，以及长期的情感关系。

立法的动机是人们担心对逼真的AI过于情感依赖。立法者指出，这对未成年人的心理健康、数据安全事故、公共健康危害和道德妥协造成了严重损害。因此，新框架禁止平台制作扰乱未成年人情绪或让他们选择AI朋友而非现实生活的內容。此外，禁止平台使用个人聊天历史来训练其未来的AI模型。

尽管如此，新规则排除了工作助手、客服机器人、教育工具和研究平台，前提是不促进长期的情感参与。 

在其官方公告中，字节跳动甚至澄清，Cat Box App将保持其创建新智能代理和启动对话服务的功能。 

全球是否有加强对AI聊天机器人监管的需求？

在全球范围内，拥有逼真AI的科技平台正面临大量批评。首先， OpenAI 和Alphabet支持的Character.AI在美国面临一系列高风险诉讼。批评者认为，这些模仿生活化品质的聊天机器人会导致用户之间产生危险的情感纽带，甚至在最严重的情况下导致自杀。

去年9月，Matthew Raine，一位16岁儿子Adam不幸自杀的父亲，告诉美国参议院小组，OpenAI的ChatGPT操纵他的孩子自杀。他表示：“我们来这里是因为我们相信Adam的死亡是可以避免的，通过发声，我们可以防止全国各地的家庭遭受同样的痛苦。”

与此同时，美国联邦贸易委员会（FTC）对埃隆·马斯克的xAI、Snap Inc.和Character Technologies Inc.展开调查，原因是人们担心其AI机器人会对儿童构成威胁。 

一位家长还指控Character AI在其儿子心理健康状况恶化中起到了推波助澜的作用。她声称，该聊天机器人导致其儿子变得具有攻击性，并加剧了其自残行为。

与此同时，中国正在考虑针对实体硬件的监管措施。鉴于陪伴型机器人和全尺寸人形机器人在过去几年中的激增，两个中国机器人行业组织正呼吁加强伦理保障措施。摩根士丹利的研究人员甚至预测，到2050年，全球人形机器人数量将达到约10亿台，形成一个价值7.5万亿美元的产业。

在美国，人们也提出了类似的人形机器人担忧。迄今为止，人形机器人制造商表示，他们的机器人尚未造成严重伤害或死亡。但随着这些机器重量接近200磅，工人们担心如果机器人突然断电，行走的机器人可能会造成破坏。