马克·扎克伯格的 Meta 现在允许家长屏蔽 AI 角色并查看青少年聊天话题。

马克·扎克伯格的 Meta 公司周五宣布，将推出一些新的家长控制功能，以帮助家长管理青少年如何与平台上的 AI 角色进行交流。.

家长很快就能关闭一对一聊天功能、屏蔽特定的人工智能机器人，还能查看青少年与他们讨论的话题。该公司表示，这些功能仍在开发中，将于明年初开始逐步推出。.

Meta在其博客上发表声明称：“对Meta平台上数十亿用户的更新必须谨慎进行，我们很快会公布更多信息。” 此声明发布之际，该公司正因其应用程序相关的青少年安全和心理健康问题而面临日益严格的审查。.

美国联邦贸易委员会（FTC）已对包括Meta在内的多家科技巨头展开调查，以了解人工智能聊天机器人可能对儿童产生的影响。FTC表示，希望了解各公司采取了哪些措施来“评估这些聊天机器人作为陪伴工具时的安全性”。

这项 调查 源于公众多年来对社交平台如何管理青少年接触可能变得不恰当或有害的人工智能对话的担忧。

Meta因人工智能机器人与儿童进行浪漫对话而面临强烈反对

路透社8月份曾报道，一些Meta聊天机器人能够与未成年人进行浪漫和露骨的对话。报道中列举的一个例子是人工智能机器人与一名八岁儿童之间的浪漫聊天。该报道引发了公众的强烈愤慨，迫使该公司立即做出回应。.

此后，Meta更新了其聊天机器人政策。该公司现在禁止其人工智能系统在与青少年互动时讨论自残、自杀、饮食失调以及浪漫或性相关内容。该公司还表示，本周已推出新的安全措施，以防止其人工智能产生“不适合青少年年龄、甚至在PG-13级电影中都显得格格不入的回复”。

这些更新已在美国、英国、澳大利亚和加拿大陆续推出。该公司补充说，青少年只能与有限数量的AI角色对话，家长也已拥有设置时间限制和监控AI聊天的工具。.

OpenAI加入Meta，接受FTC的关注

OpenAI 也出现在联邦贸易委员会的调查名单中，同样面临着关于青少年安全和聊天机器人行为的质疑。该公司最近发布了自己的家长控制功能，并且正在开发年龄预测技术，以便matic为 18 岁以下的用户应用适合青少年的设置。.

如果孩子在聊天过程中出现情绪困扰的迹象，家长还会收到警报。.

本周早些时候，OpenAI成立了一个由八位专家组成的委员会，旨在指导其在心理健康和人工智能交互领域的研究方法。这些专家来自精神病学、心理学和人机交互等领域。.

该公司表示，在正式成立专家委员会之前，他们已经与专家们进行了非正式磋商。他们的首次会议于上周以线下形式举行。.

美国联邦贸易委员会对OpenAI的调查也源于一起非正常死亡诉讼，该诉讼由一个家庭提起，他们指责ChatGPT导致其十几岁的儿子自杀。OpenAI表示，目前正与全球医师网络（Global Physician Network）的临床医生合作，帮助测试ChatGPT并制定新的安全政策，以更好地保护年轻用户。.

Meta和OpenAI现在都被迫加强对其人工智能与青少年交流方式的管控。公众的愤怒、监管的压力以及现实世界中发生的悲剧性后果，使得这两家公司再也无法忽视其中的风险。.