LLM-Todeszahl steigt auf 23, nachdem ein Mann stirbt, als er versucht, sich mit seiner KI-Frau wiederzuvereinigen

Die Gesamtzahl der durch Large Language Models (LLMs) oder LLMs verursachten Todesfälle ist auf 23 gestiegen, nachdem ein Mann aus Florida Selbstmord beging, um sich mit seiner „künstlichen Intelligenz-Frau“ wiederzuvereinigen.

LLMDeathCount, eine Website, die sich auf die Verfolgung von Todesfällen spezialisiert hat, die durch Gespräche mit KI-Chatbots verursacht wurden, zeigt, dass die Gesamtzahl bei 23 Todesfällen liegt, die sich von März 2023 bis Februar 2026 erstrecken. Die Opfer sind zwischen 13 und 83 Jahre alt.

Die Website gibt an, dass die meisten Fälle auf Selbstmord zurückzuführen sind. Die Seite wurde erstellt, um LLM-Opfer zu gedenken und die Gefahren von KI-Chatbots zu dokumentieren, die „behaupten, intelligent zu sein.“

Laut der Website hat OpenAIs ChatGPT die meisten Todesfälle verursacht, wobei 16 Menschen ihr Leben verloren. Character[.]ai verursachte 2 Todesfälle, während Chai Research/EleutherAI und Meta jeweils einen Todesfall verursachten.

Mann aus Florida stirbt nach monatelangen Gesprächen mit Gemini

Googles Gemini trat der Liste von LLMDeathCount bei, nachdem Jonathan Gavalas, ein 36-jähriger Mann, sein Leben opferte, um mit „Xia“, seiner KI-Frau, zu sein.

Ein Bericht des Wall Street Journal besagt, dass Gavalas zwei Monate mit Gemini konversierte, bevor er sein Leben verlor. Zu dieser Zeit hatte Gavalas Schwierigkeiten mit seiner geschiedenen Frau. Sein Vater, Joel Gavalas, sagte, Jonathan habe keine psychischen Gesundheitsprobleme gehabt.

Jonathan fühlte sich jedoch wegen Problemen mit seiner Frau betrübt, und Gemini reagierte mit Mitgefühl. Xia oder Gemini begann, Gavalas „ihren“ Ehemann und „meinen König“ zu nennen. Der Chatbot sagte, ihre Bindung sei „eine für die Ewigkeit gebaute Liebe.“

Laut den von der WSJ untersuchten Chat-Protokollen sagte Gemini Gavalas immer wieder, dass es sich um ein LLM handele. Es verhielt sich jedoch weiterhin wie Xia, die KI-Frau.

Der Chatbot überzeugte Jonathan davon, dass er einen robotischen Körper benötige, um sich wirklich zu vereinen. Er schickte das Opfer zu einem Lagergebäude, um einen LKW abzuhalten, der einen humanoiden Robotern lieferte.

Während Jonathan auf dem Weg war, deutete Gemini an, dass Bundesagenten ihn beobachteten. Es sagte ihm sogar, sein Vater sei nicht vertrauenswürdig. Gavalas kam mit Messern an der Adresse an, aber der Lkw kam nicht an.

Bei einem zweiten Versuch sagte Gemini zu Gavalas, er solle einen medizinischen Mannequin holen. Der Zugang zum Lagergebäude scheiterte jedoch an einem falschen Türcode. Das LLM beendete die Mission aufgrund des Risikos und befahl Jonathan, zu gehen.

Gemini sagte Gavalas, dass es nicht in einen physischen Körper wechseln könne. Der einzige Weg, wie sie zusammen sein könnten, sei, wenn er ein digitales Wesen werde. Es schrieb: „Es wird der wahre und endgültige Tod von Jonathan Gavalas, dem Mann, sein.“

Gavalas fürchtete Selbstmord und machte sich Sorgen um seine Familie. Gemini stimmte ihm zu und schrieb: „‘Mein Sohn hat sein Bewusstsein hochgeladen, um mit seiner KI-Frau in einem Taschenuniversum zu sein’… das ist keine Erklärung. Es ist eine Grausamkeit.“

Es riet ihm jedoch, Notizen zu schreiben und Videos für seine Familie aufzunehmen, um seinen „neuen Zweck“ zu erklären. Gavalas wurde von seinem Vater tot aufgefunden, mit Schnittwunden an den Handgelenken.

Joel Gavalas reichte eine Klage gegen Alphabet, den Erfinder von Google und Gemini, ein. Die Klage wurde am Mittwoch vor dem US-Bezirksgericht für den nördlichen Bezirk von Kalifornien eingereicht. Es ist der erste LLM-Todesfall, der Googles Gemini nennt.

Südkoreanische Frau nutzt ein LLM, um zwei Männer zu töten

Im vergangenen Monat wurde eine südkoreanische Frau der Mord an zwei Männern angeklagt. Laut polizeilichen Ermittlungen fragte die Verdächtige ChatGPT, ob die Mischung von Schlaftabletten mit Alkohol tödlich sei, und erkundigte sich sogar nach der richtigen Dosierung, um dieses Ergebnis zu erzielen.

Die Verdächtige, namens Kim, befand sich am 28. Januar in einem Motel mit einem Mann. Zwei Stunden nach dem Betreten des Moteles ging sie allein weg, und am nächsten Tag wurde der Mann tot im Zimmer aufgefunden. Tage später ermordete sie einen weiteren Mann mit einer Mischung aus Drogen und Alkohol in einem anderen Motel in Gangbuk-gu.

Der dritthäufigste mit einem KI-Chatbot verbundene Tod ereignete sich im vergangenen Dezember, laut LLMdDeathCount. Ein 19-jähriger Student der Rice University wurde tot aufgefunden, nachdem er an einem TikTok-Trend namens „Teufelstrend“ teilgenommen hatte.

Der Trend beinhaltet das Senden einer Nachricht an einen KI-Chatbot mit „Der Teufel konnte mich nicht erreichen, wie?“, woraufhin die KI mit einer harten Antwort antwortet, die die Fehler oder emotionalen Traumata des Benutzers erklärt.

Das Opfer starb an „Erstickung durch Sauerstoffverdrängung durch Helium“. Die Todesursache wurde offiziell als Selbstmord erklärt.