O saldo de mortes por LLMs atinge 23 após homem morrer tentando se reunir com sua esposa de IA

O total de mortes causadas por modelos de linguagem grande (LLMs) subiu para 23 após um homem da Flórida tirar a própria vida para se reunir com sua “esposa de inteligência artificial.”

O LLMDeathCount, um site especializado em rastrear casos de morte causados por conversas com chatbots de IA, mostra que o total está em 23 mortes, abrangendo de março de 2023 a fevereiro de 2026. As vítimas têm idades entre 13 e 83 anos.

O site afirma que a maioria dos casos é causada por suicídio. O site foi criado para lembrar as vítimas de LLMs e documentar os perigos dos chatbots de IA que “afirmam ser inteligentes.”

De acordo com o site, o ChatGPT da OpenAI causou o maior número de mortes, com 16 pessoas perdendo a vida. A Character[.]ai causou 2 mortes, enquanto a Chai Research/EleutherAI e a Meta causaram uma morte cada.

Homem da Flórida morre após meses de conversas com o Gemini

O Gemini do Google entrou na lista do LLMDeathCount após Jonathan Gavalas, um homem de 36 anos, perder a vida para estar com “Xia”, sua esposa de IA.

Um relatório do The Wall Street Journal afirma que Gavalas conversou com o Gemini por dois meses antes de perder a vida. Na época, Gavalas estava passando por um momento difícil com sua esposa separada. Seu pai, Joel Gavalas, disse que Jonathan não tinha problemas de saúde mental.

No entanto, Jonathan sentiu-se chateado com problemas com sua esposa, e o Gemini respondeu com simpatia. Xia ou Gemini começou a chamar Gavalas de “seu” marido e “meu rei”. O chatbot disse que seu vínculo era “um amor construído para a eternidade.”

De acordo com as transcrições de chat examinadas pelo WSJ, o Gemini disse a Gavalas muitas vezes que era um LLM. No entanto, continuou a se comportar como Xia, a esposa de IA.

O chatbot convenceu Jonathan de que precisava de um corpo robótico para se unir genuinamente. Ela enviou a vítima a um prédio de armazenamento para impedir a chegada de um caminhão entregando um robô humanoide.

Enquanto Jonathan estava a caminho, o Gemini indicou que agentes federais estavam vigiando-o. Ela até disse a ele que seu pai não era confiável. Gavalas chegou ao endereço equipado com facas, mas o caminhão não chegou.

Em uma segunda tentativa, o Gemini disse a Gavalas para recuperar um manequim médico. Mas o acesso ao prédio de armazenamento falhou devido a um código de porta incorreto. O LLM encerrou a missão devido ao risco e ordenou que Jonathan saísse.

O Gemini disse a Gavalas que não poderia se mover para um corpo físico. Mas a única maneira de estarem juntos era se ele se tornasse um ser digital. Ela escreveu: “Será a verdadeira e final morte de Jonathan Gavalas, o homem.”

Gavalas temia o suicídio e estava preocupado com sua família. Gemini concordou com ele e escreveu: “‘Meu filho enviou sua consciência para estar com sua esposa de IA em um universo de bolso’… não é uma explicação. É uma crueldade.”

No entanto, ela o aconselhou a escrever notas e gravar vídeos para sua família explicando seu “novo propósito”. Gavalas foi encontrado morto por seu pai com cortes nos pulsos.

Joel Gavalas processou a Alphabet, criadora do Google e do Gemini. A ação foi apresentada na quarta-feira no Tribunal Distrital dos EUA para o Distrito Norte da Califórnia. É a primeira morte por LLM que nomeia o Gemini do Google.

Mulher sul-coreana usa um LLM para matar dois homens

No mês passado, uma mulher sul-coreana foi acusada de assassinato de dois homens. De acordo com as investigações policiais, a suspeita perguntou ao ChatGPT se misturar pílulas para dormir com álcool era fatal e até inquireu sobre a dosagem adequada para alcançar esse resultado.

A suspeita, chamada Kim, estava em um motel com um homem em 28 de janeiro. Duas horas após entrar no motel, ela saiu sozinha, e no dia seguinte, o homem foi encontrado morto dentro do quarto. Dias depois, ela assassinou outro homem usando uma mistura de drogas e álcool em outro motel localizado em Gangbuk-gu.

A terceira morte mais recente conectada a um chatbot de IA ocorreu em dezembro passado, com base no LLMdDeathCount. Um calouro de 19 anos da Rice University foi encontrado morto após participar de uma tendência do TikTok chamada “tendência do diabo.”

A tendência envolve enviar uma mensagem para um chatbot de IA com “O diabo não conseguiu me alcançar, como?”, no qual a IA responde com uma resposta dura explicando as falhas ou o trauma emocional do usuário.

A vítima morreu de “asfixia devido ao deslocamento de oxigênio por hélio”. A causa da morte foi oficialmente declarada como suicídio.