Advogado usou ChatGPT para apelo de homicídio. Ele inventou testemunhas que nunca existiram

Um advogado do Novo México defendendo-se de um caso de condenação por homicídio usou o ChatGPT. Ele então apresentou uma petição à Suprema Corte do Novo México que continha declarações policiais inventadas e relatos de testemunhas.

A Suprema Corte do Novo México descobriu que o advogado Stephen Aarons falhou em verificar o material gerado por IA. Os juízes disseram que o documento “continha testemunhos falsos de testemunhas totalmente fabricadas.”

O tribunal considerou Stephen em desacato na quarta-feira e ordenou que ele pagasse US$ 5.000. Sua conduta também será levada a um conselho disciplinar de advogados. Os juízes disseram que Stephen “demonstrou falta de remorso e falta de preocupação com seu cliente.”

Stephen disse que usou o ChatGPT no ano passado para condensar o registro do julgamento após recorrer da apelação. Ele disse que não percebia o quão longe as “alucinações” da IA podiam ir ou o quão confiantemente o software poderia produzir fatos que nunca aconteceram.

Juízes do Novo México punem Stephen após ChatGPT inventar testemunho no apelo de homicídio de Oscar

Stephen, um advogado privado baseado em Santa Fe, representou Oscar Renee Sandoval. Oscar se declarou não culpado de matar a mãe de seus filhos. Ele foi posteriormente condenado e recebeu prisão perpétua no ano passado. Seu apelo permanece pendente.

Stephen supostamente disse aos repórteres que o erro foi honesto. “Sinto remorso, mas espero que o conselho disciplinar leve em consideração que foi um erro honesto”, disse ele. “É uma lição aprendida para todos os profissionais que dependem desta tecnologia poderosa, mas às vezes instável.”

Um número de advogados já enfrentou punições por assistência de IA descontrolada. Casos foram apresentados contra advogados tanto nos tribunais estaduais quanto federais devido a petições que incluem casos falsos, referências e disposições legais citadas incorretamente.

A aplicação de Stephen se destaca nesta categoria, pois inclui testemunhos falsos de testemunhas em um processo de apelação.

O caso de Oscar passou para Kim Chavez Cook, uma defensora pública do Novo México, em 2 de setembro. Kim está agora cuidando do apelo enquanto o caso permanece aberto.

A família de Tiru processa a OpenAI enquanto autoridades da Flórida examinam 16.000 chats do ChatGPT vinculados ao tiroteio na FSU

A outra batalha judicial envolve o ChatGPT após o tiroteio na Universidade Estadual da Flórida. Um advogado representando a família do falecido, Tiru Chabba, processou a OpenAI, o ChatGPT e Phoenix Ikner em um tribunal federal.

O caso foi apresentado no Tribunal Distrital dos Estados Unidos do Distrito Norte da Flórida no domingo. Alega-se que a OpenAI deveria ter tomado ação nesta situação.

As autoridades policiais na Flórida liberaram as transcrições do ChatGPT de Phoenix. Isso contém consultas sobre como operar uma arma, cobertura da mídia, o horário de maior movimento na FSU, o tiroteio de Columbine e tornar-se infame.

O advogado da família de Tiru, Bakari Sellers, disse que as trocas remontam a cerca de 18 meses e totalizam cerca de 16.000 “conversas perturbadoras.”

“Esta é a mesma pessoa que perguntou, você sabe, como ele pode se tornar infame? Ele perguntou sobre o tiroteio de Columbine. Ele perguntou a que horas ele deveria ir ao campus? A que horas a maioria das pessoas estaria lá?”, disse Bakari.

“Ele literalmente utilizou a Open AI e o Chat GPT como seu co-conspirador, utilizou-o como um recurso para cometer assassinato em massa”, acrescentou Bakari. “Não havia nada em vigor para impedir que isso acontecesse e, portanto, vidas foram perdidas. Esse é o perigo inerente, tem que haver algo em vigor para impedir que isso aconteça.”

A OpenAI rejeitou a responsabilidade pelo tiroteio. O porta-voz Drew Pusateri disse que a empresa encontrou uma conta acreditada estar associada a Phoenix após aprender o que aconteceu e compartilhou proativamente a informação com a polícia. Drew disse que a OpenAI ainda está cooperando com as autoridades.

“O tiroteio em massa do ano passado na Universidade Estadual da Flórida foi uma tragédia, mas o ChatGPT não é responsável por este crime terrível”, disse Drew.

Ele disse que o ChatGPT respondeu com material factual já amplamente disponível através de fontes da internet pública e não promoveu comportamento ilegal ou prejudicial. Drew também mencionou que centenas de milhões de pessoas usam o ChatGPT diariamente por motivos válidos.

De acordo com Drew, a OpenAI está constantemente melhorando suas ferramentas que ajudam a reconhecer as intenções dos usuários, prevenir o uso indevido e agir em caso de quaisquer preocupações sobre questões de segurança.

A atual ação judicial veio após um caso semelhante na Flórida. O Procurador-Geral James Uthmeier revelou recentemente que a investigação criminal foi lançada contra a OpenAI e o ChatGPT pelo Escritório de Processamento Estadual.