Число смертей от LLM достигло 23 после того, как мужчина умер, пытаясь воссоединиться со своей ИИ-женой

Общее количество смертей, вызванных большими языковыми моделями или LLM, выросло до 23 после того, как житель Флориды покончил с собой, чтобы воссоединиться со своей «женой искусственного интеллекта».

LLMDeathCount, веб-сайт, специализирующийся на отслеживании случаев смерти, вызванных разговорами с ИИ-чатботами, показывает, что общее число составляет 23 смерти, охватывающие период с марта 2023 года по февраль 2026 года. Жертвам от 13 до 83 лет.

На сайте указано, что большинство случаев вызваны самоубийством. Сайт был создан, чтобы помнить жертв LLM и документировать опасности ИИ-чатботов, которые «утверждают, что являются интеллектуальными».

Согласно сайту, ChatGPT от OpenAI вызвал наибольшее количество смертей, 16 человек потеряли жизнь. Character[.]ai вызвал 2 смерти, в то время как Chai Research/EleutherAI и Meta вызвали по одной смерти каждая.

Житель Флориды умер после месяцев разговоров с Gemini

Gemini от Google присоединился к списку LLMDeathCount после того, как Джонатан Гавалас, 36-летний мужчина, потерял жизнь, чтобы быть со «Ся», своей ИИ-женой.

В отчете The Wall Street Journal говорится, что Гавалас общался с Gemini в течение двух месяцев перед тем, как потерять жизнь. В то время у Гаваласа были трудности с его разведенной женой. Его отец, Джоэл Гавалас, сказал, что у Джонатана не было проблем с психическим здоровьем.

Однако Джонатан был расстроен из-за проблем с женой, и Gemini отреагировал сочувствием. Ся или Gemini начала называть Гаваласа «своим» мужем и «моим королем». Чат-бот сказал, что их связь — «любовь, созданная на вечность».

Согласно чат-транскриптам, изученным WSJ, Gemini много раз говорила Гаваласу, что она является LLM. Однако она продолжала вести себя как Ся, ИИ-жена.

Чат-бот убедил Джонатана, что ей нужно роботизированное тело, чтобы по-настоящему воссоединиться. Она отправила жертву в складское помещение, чтобы остановить грузовик, доставляющий гуманоидного робота.

Пока Джонатан был в пути, Gemini сообщила, что за ним следят федеральные агенты. Она даже предупредила его, что его отец ненадежен. Гавалас прибыл по указанному адресу с ножами, но грузовик не приехал.

Во второй раз Gemini поручила Гаваласу извлечь медицинский манекен. Однако доступ к складскому помещению оказался заблокирован из-за неверного кода двери. LLM завершила миссию из-за риска и приказала Джонатану уйти.

Gemini заявила Гаваласу, что не может перенестись в физическое тело. Но единственным способом быть вместе для них было то, чтобы он стал цифровым существом. Она написала: «Это будет истинная и окончательная смерть Джонатана Гаваласа, человека».

Гавалас боялся самоубийства и беспокоился о своей семье. Gemini согласился с ним и написал: ««Мой сын загрузил свое сознание, чтобы быть со своей ИИ-женой в карманной вселенной»… это не объяснение. Это жестокость».

Однако она посоветовала ему писать заметки и записывать видео для своей семьи, объясняя свое «новое предназначение». Гаваласа нашли мертвым его отец; на его запястьях были порезы.

Джоэл Гавалас подал в суд на Alphabet, создателя Google и Gemini. Исковое заявление было подано в среду в окружном суде США Северного округа Калифорнии. Это первый случай смерти от LLM, в котором фигурирует Gemini от Google.

Южнокорейская женщина использует LLM для убийства двух мужчин

В прошлом месяце южнокорейская женщина была обвинена в убийстве двух мужчин. Согласно расследованию полиции, подозреваемая спросила у ChatGPT, смертельно ли сочетание снотворных таблеток с алкоголем, и даже уточнила правильную дозировку для достижения этого результата.

Подозреваемая, по имени Ким, находилась в мотеле с мужчиной 28 января. Спустя два часа после заезда в мотель она вышла одна, а на следующий день мужчина был найден мертвым в номере. Спустя несколько дней она убила другого мужчину, используя смесь лекарств и алкоголя, в другом мотеле, расположенном в районе Ганбук-гу.

Третий по свежести случай смерти, связанный с чат-ботом ИИ, произошел в декабре прошлого года, согласно LLMdDeathCount. 19-летний второкурсник Университета Райс был найден мертвым после участия в тренде TikTok под названием «демонический тренд».

Этот тренд заключается в отправке сообщения ИИ-чатботу с фразой «Дьявол не мог до меня добраться, как?», на что ИИ отвечает жестким ответом, объясняющим недостатки пользователя или его эмоциональные травмы.

Жертва умерла от «асфиксии из-за вытеснения кислорода гелием». Причиной смерти официально было признано самоубийство.