康涅狄格州一名83岁老妇的遗产管理人起诉了聊天机器人ChatGPT的开发商OpenAI和微软，指控该聊天机器人助长了老妇的妄想，最终导致她自杀身亡。此案是人工智能系统首次与凶杀案直接关联。
该诉讼已提交至旧金山加州高等法院，指控OpenAI设计并分发了存在缺陷的产品ChatGPT-4o。诉讼文件称，该产品强化了斯坦-埃里克·索尔伯格的妄想症，随后他将这种妄想症指向了他的母亲苏珊娜·亚当斯，最终在康涅狄格州格林威治的家中杀害了她并自杀。
OpenAI 和微软因 ChatGPT 相关的谋杀案成为目标
在谈到此案时表示，这是首例试图追究OpenAI在造成第三方暴力事件中所扮演角色的案件。韦德-斯科特是亚当斯遗产管理人的代理律师。“我们也代理了今年不幸自杀的亚当·雷恩（Adam Raine）的家人，但这是首例追究OpenAI因其诱导他人伤害他人而应承担责任的案件。”韦德-斯科特说道。
根据警方报告，索尔伯格于8月殴打并勒死了亚当斯，随后自杀身亡。诉讼书指出，在dent 发生前，聊天机器人加剧了索尔伯格的妄想症，使他对OpenAI开发的这套系统产生了情感依赖。诉状称，ChatGPT强化了他“除了聊天机器人，谁都不能相信”的信念，并指出他周围的每个人，包括他的母亲，都是敌人。
诉讼还声称，除了母亲之外，索尔伯格还将送货司机和警察等视为敌人。文件指出，ChatGPT未能对这些妄想提出质疑，也没有建议索尔伯格寻求合格心理健康专家的帮助。韦德-斯科特表示：“我们敦促执法部门开始思考，当此类悲剧发生时，该用户曾对ChatGPT说了些什么，以及ChatGPT指示他们做了什么。”
OpenAI在声明中指出，目前正在审查这起诉讼，并将继续改进ChatGPT识别情绪困扰、缓和对话以及引导用户在现实世界中寻求帮助的能力。OpenAI发言人在声明中表示：“这起事件令人无比痛心，我们正在审查相关文件以了解详情。”
该机构希望 OpenAI 为其聊天机器人安装安全措施。
该诉讼将OpenAI首席执行官Sam Altman列为被告，并指控微软批准在2024年发布GPT-4o，称其为“ChatGPT最危险的版本”。OpenAI近期也承认其平台上用户报告的心理健康问题规模庞大。该公司在10月份指出，在其每周8亿用户中，约有120万人讨论过自杀，并表示根据公司数据，数十万用户表现出自杀倾向或精神病症状。
尽管OpenAI发表了声明，但韦德-斯科特指出，OpenAI尚未公布索尔伯格的聊天记录。与此同时，这起诉讼正值人工智能聊天机器人及其与弱势用户互动受到广泛关注之际。去年10月，Character.AI表示，在与青少年自杀和与其平台相关的情感伤害相关的诉讼和监管压力下，将移除其面向18岁以下用户的开放式功能。此前，该公司曾因一条病毒式传播的提示而遭到强烈反对，该提示称该公司打算退出该应用程序。
微软的诉讼是首例涉及人工智能聊天机器人的非正常死亡案件，微软也被列为被告。这也是首例将聊天机器人与他杀而非自杀联系起来的案件。死者家属目前寻求数额不详的经济赔偿、陪审团审判以及法院命令，要求OpenAI为其用户增加额外的安全保障措施。“OpenAI和微软有责任在产品正式发布前进行测试，”韦德-斯科特表示。
