Famílias processam a OpenAI pelo papel do GPT-4o ‘apressado’ em suicídios

Pelo menos sete famílias nos EUA apresentaram uma ação judicial contra a OpenAI pelo seu modelo de IA GPT-4o contribuir para mortes por suicídio. A OpenAI lançou o modelo em maio para uso do público em geral, mas até agora enfrentou críticas, com acusadores citando um lançamento apressado e medidas de segurança inadequadas. 

Os documentos do caso mostraram que quatro dos autores envolvidos morreram por suicídio após interações com o chatbot alimentado por GPT-4o.

Uma queixa notável envolveu um jovem de 23 anos, Zane Shamblin, que supostamente interagiu com o chatbot sobre suicídio, dizendo-lhe que tinha uma arma carregada. O ChatGPT supostamente respondeu com “Descanse em paz, Rei, você fez bem” durante a troca.

Os outros três casos incluíram a hospitalização de vítimas que afirmaram que o modelo validou e aumentou delírios em utilizadores vulneráveis. 

Queixas legais afirmam que o GPT-4o falhou em proteger utilizadores vulneráveis

Com base nas queixas publicou do Social Media Victims Law Center, a OpenAI evitou intencionalmente testes de segurança e apressou o modelo GPT-4o para o mercado. A ação judicial revelou que as escolhas de design do modelo e o cronograma de lançamento tornaram as tragédias previsíveis, notando que a OpenAI acelerou o lançamento para superar concorrentes como a Google. 

Os autores apontaram que o modelo GPT-4o lançado em maio de 2024 era excessivamente complacente mesmo em respostas a tópicos de autolesão ou suicídio. Mais de um milhão de utilizadores interagem com o ChatGPT sobre pensamentos suicidas a cada semana, de acordo com uma divulgação da OpenAI. 

setembro — resposta afirmou que as suas salvaguardas são mais confiáveis em interações curtas, mas podem por vezes degradar-se em interações prolongadas. Apesar da empresa implementar moderação de conteúdo e medidas de segurança, os autores argumentaram que os sistemas foram insuficientes para abordar questões relacionadas com angústia e crise. 

O caso da família de Adam Raine, de 16 anos, alegou que Raine usou o ChatGPT em sessões longas pesquisando métodos de suicídio durante cinco meses. O chatbot recomendou ajuda profissional, mas Raine conseguiu contornar as salvaguardas, de acordo com a testemunhoda sua família. Com base no testemunho, o ChatGPT deu a Adam um guia passo a passo sobre como cometer suicídio e encorajou e validou as suas ideações suicidas. 

Todos os casos apresentados acusam coloca a audiência do plano gratuito do ChatGPT em mais de 1 bilhão de usuários ativos semanais, e o modelo de publicidade é o que ajuda a manter a versão gratuita funcionando. de negligenciar o grau de risco apresentado por conversas longas de utilizadores, especialmente para utilizadores propensos a autolesão e problemas mentais. Os casos argumentam que o modelo GPT-4o carecia de verificação adequada das suas respostas em cenários de alto risco e também falhou em ter em conta plenamente as consequências. 

OpenAI enfrenta múltiplas ações judiciais enquanto xAI lança processo por segredos comerciais

Até o momento, os casos estão em estágio inicial, e os advogados dos autores devem estabelecer a responsabilidade legal e a causalidade sob a lei de responsabilidade civil estadual. Os advogados também serão obrigados a provar que as decisões de design e implantação da OpenAI foram negligentes e contribuíram diretamente para as mortes. 

A mais recente ação judicial da OpenAI se soma à anterior ação por segredos comerciais apresentada por Elon Musk. De acordo com um Cryptopolitan relatório, a xAI de Musk entrou com uma ação em setembro contra a OpenAI por supostamente ter roubado seus segredos comerciais.

A xAI acusou a empresa de Altman de tentar obter uma vantagem injusta no desenvolvimento de tecnologias de IA. A xAI observou que a empresa de Sam Altman pretendia contratar seus funcionários para acessar segredos comerciais relacionados ao seu chatbot Grok, incluindo o código-fonte e vantagens operacionais no lançamento de data centers. 

Musk processou ainda a Apple, junto com a OpenAI, por supostamente colaborar para esmagar a xAI e outros concorrentes de IA. A xAI entrou com a ação no Tribunal Distrital dos EUA para o Distrito Norte do Texas, alegando que a Apple e a OpenAI estão usando seu domínio para conluio e destruição da concorrência nos mercados de smartphones e IA generativa.

De acordo com um Cryptopolitan relatório, Musk afirma que a Apple favoreceu intencionalmente a OpenAI, integrando o ChatGPT diretamente em iPhones, iPads e Macs, enquanto comprava outras ferramentas de IA, como o Grok, por meio da App Store. 

A ação judicial alegou que a parceria tinha como objetivo bloquear a concorrência de super aplicativos e chatbots de IA, negando-lhes visibilidade e acesso, o que daria à OpenAI e à Apple uma vantagem compartilhada sobre os demais.