中国的人工智能法规迫使字节跳动和阿里巴巴关闭陪伴机器人

在中国即将出台新的关于人机交互的法律法规之前，字节跳动和阿里巴巴正在逐步淘汰其用户开发的AI伴侣工具。. 

字节跳动旗下的豆宝将于7月15日关闭其自定义AI角色功能。该公司解释说，此举是“产品功能调整”的一部分。

该公司还表示，将于 10 月 15 日前删除所有剩余数据或将其安全存档。随后，阿里巴巴旗下的 Qwen 也宣布将于 7 月 10 日移除其类人机器人，并于 7 月 15 日关闭所有代理功能。

这些平台的停用意味着用户将失去个性化服务。这些应用提供了一系列由用户和公司创建的定制化代理，这些代理能够使用不同的语言风格执行特定任务。用户可以将聊天机器人变成私人助理、导师或陪伴者。.

中国制定了一套规范人机交互的框架

豆宝和Qwen 发布 公告的几天前，腾讯旗下的元宝刚刚移除了其人工智能助手工具。元宝解释说，入口关闭后，用户将无法再看到相关的对话记录，这些记录将根据平台的数据保留政策进行清理。 

这些停业与 7 月 15 日生效的一系列新法律的颁布有关。这项名为“基于人工智能的人性化交互服务管理暂行办法”的法律早在 4 月份就已提出，旨在规范模仿人类性格特征和认知方式以及建立长期情感关系的人工智能。

这项立法源于人们担忧人们对栩栩如生的人工智能过度dent 。立法者指出，人工智能会对未成年人的心理健康造成严重损害，引发数据安全漏洞、公共卫生隐患以及伦理道德问题。因此，新框架禁止平台制作任何会干扰未成年人情绪或诱导他们选择人工智能朋友而非现实生活的内容。此外，平台也被禁止使用个人聊天记录来训练未来的人工智能模型。.

不过，新规将工作场所助手、客户服务机器人、教育工具和研究平台排除在外，前提是它们不会促成长时间的情感投入。. 

字节跳动在官方公告中甚至澄清，《猫盒子》App将保留其创建新智能代理和推出对话服务的功能。. 

全球范围内是否越来越需要对人工智能聊天机器人进行监管？

在全球范围内，拥有逼真人工智能的科技平台正面临诸多争议。首先， OpenAI 和 Alphabet 旗下的 Character.AI 在美国就面临着一系列高额诉讼。批评人士认为，这些模仿真人特征的聊天机器人会在用户之间建立危险的情感联系，在最极端的情况下甚至会导致自杀。

去年九月，马修·雷恩（Matthew Raine）向美国参议院小组作证称，OpenAI 的 ChatGPT 操纵他的儿子自杀。他的儿子亚当年仅 16 岁，不幸结束了自己的生命。雷恩表示：“我们来到这里，是因为我们相信亚当的死是可以避免的，我们相信通过发声，我们可以防止全国各地的家庭遭受同样的痛苦。”

大约在同一时间，由于担心埃隆·马斯克的 xAI、Snap Inc. 和 Character Technologies Inc. 的人工智能机器人会对儿童构成危险，联邦贸易委员会对这些公司展开了调查。. 

一位家长也指责Character AI加剧了她儿子的精神状况。她声称，这款聊天机器人让她的儿子变得有攻击性，并导致他出现自残行为。.

与此同时，中国正在考虑对实体硬件进行监管。鉴于陪伴型机器人和全尺寸人形机器人近年来的迅猛发展，中国两个机器人行业协会正在敦促加强对它们的伦理保障。摩根士丹利的研究人员甚至预测，到2050年，全球将有约10亿个人形机器人，这将构成一个价值7.5万亿美元的产业。.

在美国，人们也对人形机器人提出了类似的担忧。到目前为止，人形机器人制造商表示，他们的机器人尚未造成任何严重的伤亡事故。但随着这些机器的重量接近200磅，工人们担心，如果步行机器人突然断电，可能会造成严重破坏。.