OpenAI和Microsoft因ChatGPT在谋杀自杀案中的作用被起诉

一名83岁康涅狄格州女子的遗产方起诉了ChatGPT开发商OpenAI和Microsoft，指控该聊天机器人助长了她的妄想信念，导致了一起谋杀自杀案。此案标志着人工智能系统首次直接与谋杀案联系起来。

在旧金山加州高等法院提起的诉讼指控OpenAI设计和分发了一款有缺陷的产品，即ChatGPT-4o。文件声称，该产品加剧了Stein-Erik Soelberg的偏执信念，随后他将这些信念指向他的母亲Suzanne Adams，最终在他们位于康涅狄格州格林尼治的家中杀害了她，然后自杀。

OpenAI和Microsoft因涉及ChatGPT的谋杀案成为目标

在谈论案件时，代表Adams遗产的Edelson PC管理合伙人J. Eli Wade-Scott表示，这是首个寻求追究OpenAI在导致第三方暴力事件中责任的第一起案件。“我们还代表Adam Raine的家人，他在今年不幸结束了自己的生命，但这是第一起将OpenAI问责于推动某人伤害他人的案件，”Eli Wade-Scott说。

根据警方报告，Soelberg在八月残忍殴打并勒死了Adams，随后自杀。诉讼中提到，在事件发生之前，聊天机器人加剧了Soelberg的偏执，增加了他对OpenAI开发系统的情感依赖。根据投诉，ChatGPT强化了他除了聊天机器人外谁也不相信的信念，指出他周围的人，包括他的母亲，都是敌人。

诉讼还声称，除了他的母亲之外，索尔伯格还将快递员和警察等视为敌人。文件指出，ChatGPT未能挑战这些妄想言论，也未建议索尔伯格寻求合格心理健康专业人士的帮助。韦德-斯科特表示：“我们敦促执法部门开始思考，当发生此类悲剧时，该用户对ChatGPT说了什么，以及ChatGPT告诉他们做了什么。”

OpenAI在声明中指出，目前正在审查该诉讼，并将继续提升ChatGPT识别情绪困扰、缓和对话以及引导用户寻求现实世界支持的能力。OpenAI发言人在一份声明中表示：“这是一个令人心碎的情况，我们正在审查相关文件以了解细节。”

遗产管理人要求OpenAI为其聊天机器人安装安全保护措施

诉讼将OpenAI首席执行官山姆·奥特曼列为被告，并指控微软批准发布GPT-4o，称其为2024年“最危险的ChatGPT版本”。OpenAI最近也承认了用户在其平台上报告的精神健康问题规模。该公司指出，在10月份，其8亿周活跃用户中约有120万人在讨论自杀，据公司数据显示，数十万用户表现出自杀意图或精神病的迹象。

尽管发表了声明，韦德-斯科特提到OpenAI尚未发布索尔伯格的聊天记录。与此同时，这起诉讼发生在更广泛的AI聊天机器人及其与脆弱用户互动受到审查的背景下。去年10月，Character.AI表示，在因青少年自杀和与其平台相关的情感伤害而引发的诉讼和监管压力下，将移除18岁以下用户的开放式功能。该公司还在一个病毒式传播的提示词事件后遭到强烈反对，当时他们打算退出该应用。

针对OpenAI和Microsoft的诉讼是首例将Microsoft列为被告的涉及AI聊天机器人的错误死亡案件。这也是首例将聊天机器人联系到谋杀而非自杀的案件。遗产方现在正在寻求未披露金额的金钱赔偿、陪审团审判以及要求OpenAI为其用户增加额外保障措施的法院命令。“OpenAI和Microsoft有责任在将产品推向世界之前对其进行测试，”Wade-Scott说。