在经历一系列自杀诉讼后,OpenAI推出ChatGPT警报系统

- OpenAI 推出了 Trusted Contact,这是 ChatGPT 的一项可选功能,当对话暗示存在严重的自残风险时,该功能会向用户选择的联系人发出警报。.
- 每条警报在发出前都会经过人工审核,并且不会与联系人共享任何聊天记录。.
- 这项功能推出之际,OpenAI 正面临多起诉讼,这些诉讼声称 ChatGPT 的交互功能导致了用户自杀。.
OpenAI于周三推出了“可信联系人”功能。该功能允许成年ChatGPT用户选择一位联系人,以便在公司系统检测到有关严重自残的对话时收到警报。.
这是OpenAI于2025年9月推出的家长控制功能的扩展,该功能允许家长监控青少年的账户。根据OpenAI的公告,现在任何18岁及以上的用户都可以选择加入。.
OpenAI 的警报功能是如何运作的?
用户首先需要在 ChatGPT 设置中添加一位成年人作为其信任联系人。这位潜在的“信任联系人”会收到一封邀请邮件,邮件中会解释设置流程,并给予一周时间考虑是否接受。如果对方拒绝,用户可以选择其他人。.
当自动监控系统检测到潜在的自残对话时, ChatGPT 会告知用户可能会通知其联系人,并提供用户主动联系联系人的建议。
然后,一组人工审核员会查看对话内容。如果他们确认情况严重,就会通过电子邮件、短信或应用内通知向用户的联系人发送简短提醒。.
警报中不会包含用户说了什么,只会显示大致原因,并提供一个链接,指导用户如何应对棘手的问题。OpenAI 表示, 人工审核会在一小时内完成。
用户可以随时更换或移除已选择的联系人。联系人也可以随时取消订阅。.
医生们参与构建了 OpenAI 的可信联系人功能。
OpenAI表示,他们与全球医师网络(由60个国家的260多名执业医师组成)及其健康与人工智能专家委员会合作开展了这项研究。美国心理学会也参与其中。.
“心理科学一贯表明,社会联系是一种强大的保护因素,尤其是在情绪低落时期,”美国心理学会首席执行官亚瑟·埃文斯博士在公告中表示。.
“帮助人们提前dent值得信赖的人,同时尊重他们的选择和自主权,可以让他们在最需要的时候更容易获得现实世界的支持。”
佐治亚理工学院教授兼理事会成员蒙蒙·德·乔杜里博士称其为“迈向人类赋权的一步,尤其是在脆弱时刻”。
OpenAI面临来自人工智能自杀诉讼的压力。
这并非偶然。OpenAI 正面临大量诉讼,原告家庭的亲属在长时间使用 ChatGPT 聊天机器人后自杀身亡。在一些案例中,家属 声称 聊天机器人怂恿用户疏远亲人,或加剧有害的思维循环。
LLMDeathCount网站 trac人工智能聊天机器人相关死亡事件的 Cryptopolitan此前报道其中24例与ChatGPT有关,其余则与谷歌的Gemini、Meta和其他平台有关。
OpenAI 的新功能是可选的,用户可以运行多个 ChatGPT 账号。任何不启用“受信任联系人”功能或只是登录其他账号的用户都会绕过该功能。家长控制也存在同样的问题。.
Trusted Contact 也并不会取代危机热线。OpenAI 表示,ChatGPT 仍然会显示当地的危机热线号码,并在对话达到紧急危机级别时引导用户拨打紧急服务电话。.
OpenAI 的“可信联系人”功能将人工智能用户与现实世界的支持联系起来。该公司表示,将继续与临床医生、研究人员和政策制定者合作,探讨人工智能在用户可能遇到危机时应如何做出响应。.
最顶尖的加密货币专家都在阅读我们的简报。想 加入他们?
常见问题解答
OpenAI 的可信联系人功能是什么?
Trusted Contact 是 ChatGPT 的一款安全工具,它允许成年用户指定一位朋友或家人,以便在 OpenAI 的自动化系统和人工审核员检测到用户对话中存在严重的自残问题时收到通知。.
受信任联系人是否可以看到用户的聊天记录?
不。通知中不包含聊天详情或文字记录。它仅提供发出警报的一般原因以及关于如何进行敏感对话的专家指导链接。.
有多少起死亡事件与人工智能聊天机器人有关?
trac网站 LLMDeathCount 列出了 2023 年 3 月至 2026 年 5 月期间与 AI 聊天机器人互动相关的 33 例死亡事件,受害者年龄从 13 岁到 83 岁不等。OpenAI 的 ChatGPT 占其中 24 例。.
免责声明: 提供的信息并非交易建议。Cryptopolitan.com Cryptopolitan研究 对任何基于本页面信息进行的投资概不负责。我们trondentdentdentdentdentdentdentdent /或咨询合格的专业人士。
学速成课程
- 哪些加密货币可以让你赚钱
- 如何通过钱包提升安全性(以及哪些钱包真正值得使用)
- 专业人士使用的鲜为人知的投资策略
- 如何开始投资加密货币(使用哪些交易所、购买哪种加密货币最划算等)















