Meta在推出新服务前禁用青少年AI角色

Meta宣布将在全球范围内、在所有应用上禁用所有青少年访问其AI角色。

“在接下来的几周内，直到更新后的体验准备就绪之前，青少年将无法在我们的应用上访问AI角色，”Meta在博客文章中写道。

该公司在更新后的博客文章中声明，这一规则适用于提供青少年生日的人，以及那些自称成年人但被其年龄预测技术怀疑为青少年的人。

在父母要求更清晰地了解和控制其青少年与AI的互动后，Meta停止了访问权限。

该公司原计划今年发布这些功能，但决定完全禁用AI角色。

Meta计划推出针对特定年龄段的AI角色

该公司旨在为青少年创建专门的AI角色。 Meta 表示针对青少年的新AI角色将包括家长控制功能。

新角色将提供适合年龄的回复，并侧重于教育、运动和爱好。

10月，Meta推出了家长控制功能，以定制青少年在其应用上与AI的互动方式。新功能限制了青少年查看极端暴力、裸体和图形化药物使用内容，灵感来源于PG-13评级。

几天后，该公司推出了管理AI角色的工具，以便家长和监护人可以跟踪主题并限制对特定角色的访问。 Meta表示，家长可以完全禁用与AI角色的聊天。

周四，《连线》杂志 表示 报道Meta试图限制关于社交媒体对青少年心理健康影响及相关报告的信息收集。

该公司希望删除任何提及近期与社交媒体相关的青少年自杀案例的内容，以及提及Meta的财务状况、员工活动和马克·扎克伯格在哈佛大学的岁月。

Meta暂停青少年AI角色的举措发生在墨西哥州的一场审判前夕，Meta因未能保护其应用上的儿童而面临指控。

据称，Meta未能在其网站上保护未成年人免受在线引诱、贩运和性虐待。

Meta在庭前动议中表示，陪审团应仅决定Meta是否违反了新墨西哥州关于儿童安全和青少年心理健康的不公平行为法。 

其他问题，如 alleged 选举干预、虚假信息或隐私侵犯，不应被考虑。

除了新墨西哥州的案件外，Meta下周还将面临一场关于导致社交媒体成瘾的审判。 

19岁的原告K.G.M.声称，平台的算法导致成瘾并损害了她的心理健康。

首席执行官马克·扎克伯格可能在审判开始后作证。

在线平台收紧青少年访问权限

由于诉讼声称社交媒体平台及AI公司助长了自残行为，这些平台已改变了青少年的体验。 

在 20 月 20 日， OpenAI 在ChatGPT中引入了年龄预测功能，以检测并增强对年轻用户的安全保护。

ChatGPT的年龄预测模型分析行为和账户数据，例如用户声明的年龄、账户年龄、活动时间和使用趋势。

上周，TikTok在欧洲引入了AI技术，以检测和删除13岁以下用户的账户。 

AI年龄控制系统检查个人资料详情、片段和发布习惯，以识别未成年账户。该功能将在未来几周内推出。

其他在线平台如Instagram、YouTube、TikTok和Roblox也采用了年龄限制措施。