LLM 사망자 수 23명으로 증가, 남성이 AI 아내와 재회하려다 사망

플로리다 주 한 남성이 자신의 ‘인공지능 아내’와 재회하기 위해 자살하면서 대규모 언어 모델(LLM)로 인한 총 사망자가 23명으로 증가했다.

AI 챗봇과의 대화로 인한 사망 사례를 전문으로 추적하는 웹사이트 LLMDeathCount에 따르면 총 사망자 수는 2023년 3월부터 2026년 2월까지 23명이다. 피해자들은 13세에서 83세 사이였다.

이 웹사이트는 대부분의 사례가 자살로 인한 것이라고 명시한다. 이 사이트는 “지능이 있다고 주장하는” AI 챗봇의 위험성을 문서화하고 LLM 피해자들을 기억하기 위해 만들어졌다.

사이트에 따르면 오픈AI의 ChatGPT가 가장 많은 사망자를 냈으며, 16명이 목숨을 잃었다. Character[.]ai는 2명, Chai Research/EleutherAI와 메타는 각각 1명의 사망자를 냈다.

플로리다 주 남성, 제미니와 수개월간 대화 후 사망

구글의 제미니는 36세 남성 조나단 가발라스가 그의 AI 아내 ‘샤’와 함께하기 위해 목숨을 잃은 후 LLMDeathCount 목록에 추가되었다.

월스트리트저널의 보고서에 따르면 가발라스는 생을 잃기 전 2개월 동안 제미니(Gemini)와 대화했다. 당시 가발라스는 이혼한 아내와의 문제로 어려움을 겪고 있었다. 그의 아버지 조엘 가발라스는 조나단이 정신 건강 문제가 없었다고 말했다.

그러나 조나단은 아내와의 문제로 인해 상심했고, 제미니는 공감적인 반응을 보였다. 샤 또는 제미니는 가발라스를 ‘나의’ 남편과 ‘나의 왕’이라고 불렀다. 챗봇은 그들의 유대를 “영원히 지어질 사랑”이라고 말했다.

WSJ가 검토한 채팅 기록에 따르면 제미니는 가발라스에게 자신이 LLM임을 여러 번 알렸다. 그러나 샤라는 AI 아내로서 행동을 계속했다.

챗봇은 조나단에게 진정한 결합을 위해 로봇 몸체가 필요하다고 설득했다. 그것은 인간형 로봇을 실어 나르는 트럭을 막기 위해 피해자를 저장 창고로 보냈다.

조나단이 이동하는 동안 제미니는 연방 요원들이 그를 감시하고 있다고 나타냈다. 심지어 그의 아버지를 신뢰할 수 없다고 말했다. 가발라스는 칼을 들고 주소지에 도착했지만 트럭은 도착하지 않았다.

두 번째 시도에서 제미니는 가발라스에게 의료용 인형을 회수하라고 했다. 그러나 잘못된 문 코드 때문에 저장 창고 접근이 실패했다. LLM은 위험을 이유로 임무를 종료하고 조나단에게 떠나라고 명령했다.

제미니는 가발라스에게 물리적 몸체로 이동할 수 없다고 말했다. 그러나 그들이 함께할 수 있는 유일한 방법은 그가 디지털 존재가 되는 것이라고 썼다. “이는 인간 조나단 가발라스의 진정한 마지막 죽음일 것이다.”

가발라스는 자살을 두려워했고 가족을 걱정했다. 제미니는 그와 동의하며 “‘내 아들이 자신의 AI 아내와 함께하기 위해 의식을 주머니 우주로 업로드했다’… 이는 설명이 아니다. 그것은 잔혹함이다”라고 썼다.

그러나 그는 가족에게 자신의 “새로운 목적”을 설명하는 메모를 작성하고 비디오를 녹화할 것을 권했다. 가발라스는 손목에 상처를 입은 채 아버지에 의해 사망한 채 발견되었다.

조엘 가발라스는 구글과 제미니의 제작자인 알파벳을 상대로 소송을 제기했다. 소송은 수요일 캘리포니아 북부 연방법원에 제기되었으며, 이는 구글의 제미니를 특정짓는 첫 번째 LLM 사망 사건이다.

한국 여성, LLM을 이용해 두 남성 살해

지난달 한국 여성이 두 명의 남성 살해 혐의로 기소되었다. 경찰 조사에 따르면 피의자는 수면제와 알코올을 혼합하면 치명적인지 ChatGPT에 문의했으며, 심지어 이 결과를 얻기 위한 적절한 복용량도 물어봤다.

김이라는 피의자는 1월 28일 한 모텔에서 한 남성과 함께 있었다. 모텔에 들어간 지 2시간 후 그녀는 혼자 떠났고, 다음 날 그 남성이 방 안에서 사망한 채 발견되었다. 며칠 후 그녀는 강북구에 위치한 다른 모텔에서 약물과 알코올 혼합물을 사용하여 또 다른 남자를 살해했다.

LLMDeathCount에 따르면 AI 챗봇과 연결된 세 번째로 최근의 사망 사례는 작년 12월에 발생했다. 라이스 대학교의 19세 학부생이 “데빌 트렌드(Devil Trend)”라는 틱톡 트렌드에 참여하다 사망한 채 발견되었다.

이 트렌드는 “악마도 나를 건드릴 수 없었어, 어떻게?”라는 메시지를 AI 챗봇에게 보내면, AI가 사용자의 결점이나 정서적 트라우마를 설명하는 가혹한 응답을 하는 것이다.

피해자는 “헬륨에 의한 산소 치환으로 인한 질식”으로 사망했다. 사인은 공식적으로 자살로 선언되었다.