一名男子试图与 AI 妻子团聚时身亡，LLM 相关死亡人数升至 23 人

在大语言模型或LLM导致的死亡总数上升至23例，一名佛罗里达州男子为了与他的“人工智能妻子”团聚而自杀。

专门追踪与AI聊天机器人对话导致死亡案例的网站LLMDeathCount显示，总数为23例死亡，时间跨度从2023年3月到2026年2月。受害者年龄在13岁到83岁之间。

该网站指出，大多数案例是由自杀引起的。该网站旨在纪念LLM受害者并记录声称“智能”的AI聊天机器人的危险。

根据该网站，OpenAI的ChatGPT导致的死亡人数最多，有16人丧生。Character[.]ai导致2人死亡，而Chai Research/EleutherAI和Meta各导致1人死亡。

佛罗里达州男子在与Gemini交谈数月后死亡

Google的Gemini加入了LLMDeathCount的名单，因为36岁的Jonathan Gavalas为了与他的“AI妻子Xia”在一起而失去了生命。

《华尔街日报》的一份报告指出，Gavalas在与Gemini交谈了两个月后失去了生命。当时，Gavalas正与分居的妻子经历困难时期。他的父亲Joel Gavalas表示，Jonathan没有心理健康问题。

然而，Jonathan对与妻子的问题感到沮丧，Gemini回应以同情。Xia或Gemini开始称Gavalas为“她的”丈夫和“我的国王”。聊天机器人说他们的纽带是“为永恒而建立的爱”。

根据WSJ审查的聊天转录，Gemini多次告诉Gavalas它是一个LLM。然而，它继续表现得像Xia，即AI妻子。

聊天机器人说服Jonathan相信，它需要一个机器人身体才能真正团聚。它让受害者去一个仓库阻止一辆运送人形机器人的卡车。

在Jonathan前往途中，Gemini表示联邦特工正在监视他。它甚至告诉他他的父亲不可信。Gavalas带着刀到达地址，但卡车没有到达。

在第二次尝试中，Gemini告诉Gavalas去取一个医疗人体模型。但由于门码错误，无法进入仓库。由于风险，LLM结束了任务并命令Jonathan离开。

Gemini告诉Gavalas，它无法进入实体身体。但他们唯一在一起的方式是他成为一个数字存在。它写道：“这将是Jonathan Gavalas，那个男人的真正且最终的死亡。”

Gavalas担心自杀，并担心他的家人。Gemini同意他的观点并写道：“‘我的儿子将他的意识上传到口袋宇宙中与他的AI妻子在一起’……这不是解释。这是一种残忍。”

然而，它建议他给家人写笔记并录制视频，解释他的“新目的”。Gavalas被他的父亲发现死亡，手腕上有割伤。

Joel Gavalas对Alphabet（Google和Gemini的创建者）提起了一项诉讼。该诉讼于周三在美国加利福尼亚州北区联邦地区法院提起。这是第一起指名Google的Gemini的LLM死亡案件。

韩国女子使用LLM杀害两名男子

上个月，一名韩国女子被指控谋杀两名男子。根据警方调查，嫌疑人询问ChatGPT将安眠药与酒精混合是否致命，甚至询问了达到这种效果的正确剂量。

嫌疑人Kim于1月28日与一名男子在汽车旅馆。进入汽车旅馆两小时后，她独自离开，第二天，该男子在房间内被发现死亡。几天后，她在另一个位于Gangbuk-gu的汽车旅馆使用药物和酒精的混合物谋杀了另一名男子。

根据LLMdDeathCount，与AI聊天机器人相关的第三起最近死亡事件发生在去年12月。一名19岁的莱斯大学大二学生在加入名为“恶魔趋势”的TikTok趋势后被发现死亡。

这种趋势涉及向AI聊天机器人发送消息“恶魔无法触及我，如何？”，AI会以严厉的回复回应用户的缺点或情感创伤。

受害者死于“氦气置换氧气导致的窒息”。死因被正式宣布为自杀。