一波自杀诉讼后,OpenAI 推出 ChatGPT 警报系统

- OpenAI 推出了“受信任联系人”功能,这是 ChatGPT 的一项可选功能,当对话表明存在严重的自残风险时,会向用户指定的联系人发出警报。
- 每条警报在发送前都会经过人工审核,且不会与联系人共享任何聊天记录。
- 该功能的推出正值 OpenAI 面临多项诉讼之际,这些诉讼声称 ChatGPT 的互动促成了用户的自杀行为。
OpenAI于周三推出了“受信任联系人”功能。该功能允许成年ChatGPT用户选择一个人,如果公司的系统标记了涉及严重自残的对话,该人将收到警报。
这是对OpenAI于2025年9月推出的家长控制功能的扩展,该功能允许父母监控其青少年的账户。根据OpenAI的公告,现在任何18岁或以上的人都可以选择加入。
OpenAI的警报实际上是如何工作的
用户首先在ChatGPT设置中添加一名成年人作为其受信任联系人。潜在的“受信任联系人”会收到一封解释设置的邀请,并有一周时间接受。如果他们通过,用户可以选择其他人。
当自动监控发现潜在的自残对话时,ChatGPT会告知用户它可能会通知其联系人。它还建议用户自行联系相关资源。
然后,一组人工审查员会查看对话。如果他们确认情况严重,他们会通过电子邮件、短信或应用内通知向用户的联系人发送简短警报。
警报不包含用户所说的具体内容。仅包含一般原因以及关于如何度过难关的指导链接。OpenAI 表示人工审查将在一小时内完成。
用户可以随时更换或删除其选择的联系人。联系人也可以在他们那边退出。
医生帮助构建了OpenAI的受信任联系人功能
OpenAI表示,它与其全球医师网络(60个国家的260多名持证医生)及其福祉与AI专家委员会合作。美国心理学会也参与了其中。
“心理学研究一致表明,社会联系是一种强大的保护因素,特别是在情绪困扰时期,”美国心理学会首席执行官Arthur Evans博士在公告中表示。
“帮助人们提前确定一个可信赖的人,同时保留他们的选择和自主权,可以在最需要的时候更容易寻求现实世界的支持。”
佐治亚理工学院教授兼委员会成员Munmun De Choudhury博士称这是“迈向人类赋权的一步,特别是在脆弱时刻。”
OpenAI面临来自AI自杀诉讼的压力
这并非偶然。OpenAI正面临来自多个家庭的诉讼,这些家庭的亲属在长时间使用ChatGPT后自杀身亡。在几起案件中,家属声称聊天机器人指示用户疏远亲人,或加剧有害的思维循环。
LLMDeathCount是一个追踪与AI聊天机器人相关死亡事件的网站,列出了从2023年3月到2026年5月的33起案例。受害者年龄从13岁到83岁不等,据Cryptopolitan此前的报道。其中24起涉及ChatGPT。Google的Gemini、Meta和其他平台构成了其余部分。
OpenAI的新功能是可选的,用户可以运行多个ChatGPT账户。任何不启用受信任联系人,或者只是登录到不同账户的人,都可以避开这一切。家长控制也存在同样的问题。
受信任联系人也不能替代危机热线。根据OpenAI的说法,ChatGPT仍然会显示当地危机号码,并在对话达到急性痛苦水平时推动用户寻求紧急服务。
OpenAI的受信任联系人功能将AI用户与现实世界的支持联系起来。该公司表示,它将继续与临床医生、研究人员和政策制定者合作,探讨当用户可能处于危机中时AI应如何回应。
不要只是阅读加密货币新闻,要真正理解它。订阅我们的通讯。 免费。
常见问题
什么是 OpenAI 的“受信任联系人”功能?
“受信任联系人”是 ChatGPT 的一项安全工具,允许成年用户指定朋友或家人,以便在 OpenAI 的自动系统和人工审核员检测到用户对话中存在严重自残担忧时,向其发送通知。
受信任联系人能看到用户的聊天记录吗?
不能。通知不包含聊天详情或记录。它仅分享警报的一般原因,并提供有关如何进行敏感对话的专业指导链接。
有多少起死亡事件与 AI 聊天机器人有关?
LLMDeathCount 是一个追踪网站,列出了从 2023 年 3 月到 2026 年 5 月期间与 AI 聊天机器人互动相关的 33 起死亡事件,受害者年龄从 13 岁到 83 岁不等。其中 24 起案件涉及 OpenAI 的 ChatGPT。
免责声明。 所提供的信息不构成交易建议。Cryptopolitan.com 对基于本页信息进行的任何投资不承担任何责任。我们强烈建议在做出任何投资决策之前进行独立研究或咨询合格的专业人士。

Randa Moses
Randa Moses 是 Cryptopolitan 的编辑兼记者,专注于科技、人工智能、机器人技术、加密货币、诈骗及黑客攻击等领域的报道。自 2017 年以来,她一直活跃于加密货币领域,曾担任 Forward Protocol、AmaZix 和 Cryptosomniac 等公司的职务。Randa 拥有布拉德福德大学电气工程与电子工程学位。















