OpenAI e Microsoft processadas pelo papel do ChatGPT no homicídio-suicídio

A herança de uma mulher de 83 anos do Connecticut processou a desenvolvedora do ChatGPT, OpenAI, e a Microsoft, alegando que o chatbot alimentou suas crenças delirantes, o que levou a um homicídio-suicídio. O caso marca a primeira vez que um sistema de inteligência artificial foi diretamente vinculado a um homicídio.

A ação judicial, apresentada no Tribunal Superior da Califórnia em São Francisco, acusou a OpenAI de projetar e distribuir um produto defeituoso na forma do ChatGPT-4o. O documento afirma que ele reforçou crenças paranoicas de Stein-Erik Soelberg, que então direcionou essas crenças para sua mãe, Suzanne Adams, antes de matá-la e depois a si mesmo em sua casa em Greenwich, Connecticut.

OpenAI e Microsoft alvo em homicídio envolvendo ChatGPT

Falando sobre o caso, J. Eli Wade-Scott, sócio gerente da Edelson PC, que representa a herança de Adams, mencionou que este é o primeiro caso buscando responsabilizar a OpenAI por seu papel em causar violência a um terceiro. “Nós também representamos a família de Adam Raine, que tragicamente pôs fim à própria vida este ano, mas este é o primeiro caso que responsabilizará a OpenAI por empurrar alguém a prejudicar outra pessoa”, disse Eli Wade-Scott.

De acordo com o relatório policial, Soelberg espancou e estrangulou Adams fatalmente em agosto antes de cometer suicídio. A ação judicial mencionou que antes do incidente ocorrer, o chatbot intensificou a paranoia de Soelberg, aumentando sua dependência emocional do sistema desenvolvido pela OpenAI. De acordo com a queixa, o ChatGPT reforçou sua crença de que ele não podia confiar em ninguém além do chatbot, observando que todos ao seu redor, incluindo sua mãe, eram inimigos.

A ação judicial também alegou que, além de sua mãe, Soelberg também via pessoas como entregadores e policiais como inimigos. O documento mencionou que o ChatGPT falhou em desafiar essas alegações delirantes ou sugerir que Soelberg buscasse ajuda de profissionais qualificados de saúde mental. “Estamos instando as forças policiais a começarem a pensar sobre quando tragédias como esta ocorrem, o que esse usuário estava dizendo ao ChatGPT e o que o ChatGPT estava dizendo a ele para fazer”, disse Wade-Scott.

Em seu comunicado, a OpenAI observou que está atualmente analisando a ação judicial e continuará a melhorar a capacidade do ChatGPT de reconhecer sofrimento emocional, desescalar conversas e direcionar os usuários a buscar apoio no mundo real. “Esta é uma situação incrivelmente triste, e estamos analisando os documentos para entender os detalhes”, disse um porta-voz da OpenAI em comunicado.

A administração da propriedade quer que a OpenAI instale salvaguardas em seu chatbot

A ação judicial cita o CEO da OpenAI, Sam Altman, como réu e acusa a Microsoft de aprovar o lançamento do GPT-4o, que ela chama de “a versão mais perigosa do ChatGPT” em 2024. A OpenAI também reconheceu recentemente a escala dos problemas de saúde mental relatados por usuários em sua plataforma. Em outubro, a empresa observou que cerca de 1,2 milhão de seus 800 milhões de usuários semanais discutem suicídio, notando que centenas de milhares de usuários apresentam sinais de intenção suicida ou psicose, de acordo com dados da empresa.

Apesar de seu comunicado, Wade-Scott mencionou que a OpenAI ainda não liberou os registros de chat de Soelberg. Enquanto isso, a ação judicial ocorre em meio a um escrutínio mais amplo dos chatbots de IA e suas interações com usuários vulneráveis. No último outubro, a Character.AI disse que removeria seus recursos de conversa aberta para usuários menores de 18 anos após processos judiciais e pressões regulatórias ligadas a suicídios de adolescentes e danos emocionais associados à sua plataforma. A empresa também enfrentou críticas após um prompt viral quando pretendiam sair do aplicativo.

A ação judicial contra a OpenAI e Microsoft é o primeiro caso de morte por negligência envolvendo um chatbot de IA que nomeia a Microsoft como ré. É também o primeiro a vincular um chatbot a homicídio em vez de suicídio. A herança agora busca danos monetários em valores não divulgados, um julgamento por júri e uma ordem judicial que exigirá que a OpenAI inclua salvaguardas adicionais para seus usuários. “A OpenAI e a Microsoft têm a responsabilidade de testar seus produtos antes de serem lançados no mundo”, disse Wade-Scott.