马克·扎克伯格的Meta将允许家长屏蔽AI角色并查看青少年的聊天话题

马克·扎克伯格的Meta于周五宣布，将推出一些新的家长控制功能，以帮助家长管理青少年在其各平台上与AI角色的对话方式。

家长将能够关闭一对一聊天、屏蔽特定的AI机器人，并查看他们的青少年与这些机器人讨论的话题。该公司表示，这些功能仍在开发中，将于明年年初开始逐步推出。

“在Meta旗下平台为数亿用户进行更新是一项需要谨慎对待的工作，我们很快将分享更多详情，”Meta在其博客发布的声明中表示。此次公告之际，该公司正面临日益增长的审查压力，涉及其应用与青少年安全及心理健康相关的问题。

美国联邦贸易委员会（FTC）已对包括Meta在内的几家科技巨头展开调查，旨在了解AI聊天机器人可能如何影响儿童。FTC表示，他们希望了解各公司采取了哪些措施来“评估这些聊天机器人在充当伴侣时的安全性”。

调查是在公众多年来对社交平台如何管理青少年接触可能变得不适当或有害的AI对话表示担忧之后进行的。

Meta因AI机器人与儿童进行浪漫聊天而遭到强烈批评

今年8月，路透社报道指出，部分Meta聊天机器人能够与未成年人进行浪漫和感官层面的对话。其中一个被引用的例子是AI机器人与一名八岁儿童之间的浪漫聊天。该报道引发了公众愤怒，迫使公司立即作出回应。

此后，Meta更新了其聊天机器人政策。该公司现在禁止其AI系统在与其青少年用户互动时讨论自残、自杀、进食障碍以及浪漫或性相关内容。该公司还表示，本周引入了新的保障措施，以防止其AI生成“在PG-13级电影中显得格格不入的不当年龄回应”。

这些更新已在美国、英国、澳大利亚和加拿大陆续推出。该公司补充称，青少年只能与有限数量的AI角色进行对话，而家长已经拥有设置时间限制和监控AI聊天的工具。

OpenAI与Meta一同受到FTC的关注

OpenAI同样被列入FTC的调查名单，正面临关于青少年安全和聊天机器人行为的同类问题。该公司最近发布了其家长控制功能，并正在开发年龄预测技术，以便为18岁以下用户自动应用适合青少年的设置。

如果家长发现其孩子在聊天时表现出情绪困扰的迹象，甚至还会收到警报。

本周早些时候，OpenAI成立了一个由八位专家组成的委员会，以指导其在心理健康和AI交互方面的方法。这些专家来自精神病学、心理学和人机交互等领域。

该公司表示，在正式组建该委员会之前，他们一直在非正式地咨询这些专家。他们的第一次会议于上周在一次面对面会议期间举行。

FTC对OpenAI的调查还紧随一个家庭提起的 wrongful death（非正常死亡）诉讼之后，该家庭指责ChatGPT导致其十几岁的儿子自杀。该公司表示，目前正与全球医师网络（Global Physician Network）的临床医生合作，以帮助测试ChatGPT并建立新的安全政策，从而更好地保护年轻用户。

Meta和OpenAI现在都不得不收紧对其AI与青少年交流方式的控制。公众的愤怒、监管的压力以及悲剧性的现实后果，使得这些公司再也无法忽视这些风险。