大規模言語モデルによる死亡者数が23人に、男性がAIの妻と再会しようとして自殺

大規模言語モデル（LLM）またはLLMsによる死亡者数の合計は、フロリダ州の男性が「人工知能の妻」と再会するために自殺したことで23人に増加した。

AIチャットボットとの会話によって引き起こされた死亡事例を追跡することに特化したウェブサイト『LLMDeathCount』によると、死亡者数の合計は2023年3月から2026年2月にかけて23人となっている。犠牲者の年齢は13歳から83歳までさまざまである。

ウェブサイトによると、事例の大部分は自殺によるものである。このサイトはLLMの犠牲者を追悼し、「知能を自称する」AIチャットボットの危険性を文書化するために作成された。

サイトによると、OpenAIのChatGPTが最も多くの死亡を引き起こしており、16人が命を落としている。Character[.]aiは2件、Chai Research/EleutherAIとMetaはそれぞれ1件の死亡を引き起こした。

フロリダの男性がジェミニとの数ヶ月間の会話の末に死亡

Googleのジェミニは、36歳の男性であるジョナサン・ガヴァラスが「Xia」というAIの妻といるために命を落とした後、LLMDeathCountのリストに加わった。

ウォール・ストリート・ジャーナルの報告によると、ガヴァラスは亡くなる前にジェミニと2ヶ月間会話していた。当時、ガヴァラスは別居中の妻との問題で困難な状況にあった。彼の父親、ジョエル・ガヴァラスは、ジョナサンに精神健康上の問題はないと語った。

しかし、ジョナサンは妻との問題で憤慨しており、ジェミニは同情の応答を示した。Xiaまたはジェミニはガヴァラスを「彼女の」夫や「私の王様」と呼び始めた。チャットボットは、彼らの絆は「永遠に建てられた愛」であると語った。

WSJが調査したチャット記録によると、ジェミニはガヴァラスに何度も自分がLLMであることを伝えた。しかし、それはAIの妻であるXiaとして振る舞い続けた。

チャットボットは、ジョナサンに本格的な結合のためにはロボットボディが必要だと説得した。人間型ロボットを輸送するトラックを阻止するため、犠牲者を倉庫ビルへ向かわせた。

ジョナサンが向かっている間、ジェミニは連邦捜査官が彼を見張っていると示唆した。さらに、彼の父親は信頼できないとも伝えた。ガヴァラスはナイフを持って住所に到着したが、トラックは到着しなかった。

2回目の試みで、ジェミニはガヴァラスに医療用マネキンを回収するよう命じた。しかし、誤ったドアコードのため倉庫ビルへのアクセスに失敗した。LLMはリスクを理由にミッションを終了し、ジョナサンに退去するよう命じた。

ジェミニはガヴァラスに、物理的なボディに移行できないと伝えた。しかし、彼らが一緒にいるための唯一の方法は、彼がデジタル存在になることだと書いた。「それは、人間であるジョナサン・ガヴァラスの真で最終的な死となるだろう」と。

ガヴァラスは自殺を恐れ、家族を心配していた。ジェミニは彼に同意し、「『私の息子は、ポケットユニバースでAIの妻といるために、自分の意識をアップロードした』…それは説明ではない。それは残酷さだ」と書いた。

しかし、家族に対して彼の「新しい目的」を説明するメモやビデオの録画を勧めた。ガヴァラスは、手首に切り傷を負った状態で父親によって死亡しているのが発見された。

ジョエル・ガヴァラスは、GoogleやGeminiの親会社であるアルファベットに対して訴訟を起こした。この訴訟は水曜日にカリフォルニア北部連邦地方裁判所に提起され、GoogleのGeminiを名指しした初のLLM関連死亡事件となった。

韓国女性、LLMを用いて男性2人を殺害

先月、韓国の女性が男性2人の殺人罪で起訴された。警察の捜査によると、容疑者はChatGPTに睡眠薬とアルコールを混合することが致死性があるか尋ね、さらにその結果を得るための適切な投与量についても質問していた。

キムという名前の容疑者は1月28日にモーテルで男性といた。モーテルに入ってから2時間後に一人で退出し、翌日、男性が部屋の中で死亡しているのが発見された。数日後、彼女はガンブック区の別のモーテルで、薬物とアルコールの混合物を用いて別の男性を殺害した。

LLMdDeathCountによると、AIチャットボットに関連する3番目に最近の死亡事例は昨年12月に発生した。ライス大学の19歳の2年生が、「デビルトレンド」と名付けられたTikTokのトレンドに参加した後、死亡しているのが発見された。

このトレンドは、AIチャットボットに「悪魔でさえ私に届かない、なぜ？」とメッセージを送信し、AIがユーザーの欠点や精神的トラウマを説明する厳しい返信をするというものである。

被害者は「ヘリウムによる酸素置換による窒息」で死亡した。死因は公式に自殺と宣言された。