Um advogado usou o ChatGPT para um recurso num caso de homicídio. O sistema inventou testemunhas que nunca existiram

Um advogado do Novo México, em defesa contra uma condenação por homicídio, utilizou o ChatGPT. Em seguida, apresentou um documento ao Supremo Tribunal do Novo México contendo declarações policiais e relatos de testemunhas inventados.

O Supremo Tribunal do Novo México considerou que o advogado Stephen Aarons não verificou o material gerado por inteligência artificial. Os juízes afirmaram que o documento "continha depoimentos falsos de testemunhas totalmente inventadas"

Na quarta-feira, o tribunal considerou Stephen culpado de desacato e ordenou que pagasse 5 mil dólares. A sua conduta será também analisada por um conselho disciplinar da Ordem dos Advogados. Os juízes afirmaram que Stephen “demonstrou falta de remorso e de preocupação com o seu cliente”

Stephen disse que usou o ChatGPT no ano passado para condensar o registo do julgamento após recurso. Afirmou que não tinha noção do quão longe as "alucinações" da IA ​​poderiam ir ou com que confiançadentsoftware poderia produzir factos que nunca aconteceram.

Juízes do Novo México castigam Stephen após ChatGPT inventar depoimento dentro do recurso de Oscar por homicídio

Stephen, um advogado particular de Santa Fé, representou Oscar Renee Sandoval. Oscar declarou-se inocente do assassinato da mãe dos seus filhos. Posteriormente, foi condenado e sentenciado a prisão perpétua no ano passado. O seu recurso ainda está pendente.

Stephen terá dito aos repórteres que o erro foi honesto. "Estou arrependido, mas espero que o conselho disciplinar tenha em conta que foi um erro honesto", disse. "É uma lição aprendida para todos os profissionais que dependem desta tecnologia poderosa, mas por vezes instável."

Vários advogados já foram punidos pelo uso descontrolado de inteligência artificial. Foram instaurados processos contra advogados em tribunais estaduais e federais devido a petições que incluem casos falsos, referências e citações incorretas de disposições legais.

O pedido de Stephen destaca-se nesta categoria por incluir falsos testemunhos de testemunhas num processo de recurso.

O caso de Oscar foi transferido para Kim Chavez Cook, defensora pública do Novo México, a 2 de setembro. Kim está agora a tratar do recurso, enquanto o caso permanece em aberto.

A família de Tiru processa a OpenAI enquanto as autoridades da Flórida examinam 16 mil conversas do ChatGPT relacionadas com o tiroteio na FSU

A outra batalha judicial envolve o ChatGPT após o tiroteio na Universidade Estadual da Flórida. Um advogado que representa a família da vítima mortal, Tiru Chabba, processou a OpenAI, o ChatGPT e Phoenix Ikner num tribunal federal.

O processo foi aberto no domingo no Tribunal Distrital dos Estados Unidos para o Distrito Norte da Flórida. Alega-se que a OpenAI deveria ter tomado medidas nesta situação.

As autoridades policiais da Flórida divulgaram as transcrições do ChatGPT de Phoenix. Contêm perguntas sobre como manusear uma arma, cobertura mediática, o horário de pico na Universidade Estadual da Flórida (FSU), o massacre de Columbine e como se tornar infame.

O advogado da família de Tiru, ​​​​Bakari Sellers, disse que as trocas de mensagens remontam a cerca de 18 meses e totalizam cerca de 16 mil "conversas perturbadoras"

“Esta é a mesma pessoa que perguntou, sabe, como é que ele se podia tornar infame? Perguntou sobre o massacre de Columbine. Perguntou a que horas deveria ir para o campus? A que horas estaria a maioria das pessoas lá?”, disse Bakari.

“Ele utilizou literalmente a IA aberta e o Chat GPT como cúmplice, usando-os como recurso para cometer assassinatos em massa”, acrescentou Bakari. “Não havia nada em vigor para impedir que isto acontecesse e, por isso, vidas foram perdidas. Este é o perigo inerente; é preciso haver algo em vigor para impedir que isto aconteça”

A OpenAI negou qualquer responsabilidade pelo tiroteio. O porta-voz Drew Pusateri afirmou que a empresa encontrou uma conta que acredita estar associada a Phoenix após ter tido conhecimento do sucedido e partilhou proactivamente a informação com a polícia. Drew disse ainda que a OpenAI continua a cooperar com as autoridades.

“O massacre ocorrido no ano passado na Universidade Estadual da Florida foi uma tragédia, mas o ChatGPT não é responsável por este crime terrível”, disse Drew.

Afirmou que o ChatGPT respondia com informação factual já amplamente disponível em fontes públicas da internet e não promovia comportamentos ilegais ou prejudiciais. Drew referiu ainda que centenas de milhões de pessoas utilizam o ChatGPT diariamente por motivos válidos.

Segundo Drew, a OpenAI está constantemente a melhorar as suas ferramentas que ajudam a reconhecer as intenções dos utilizadores, a prevenir o uso indevido e a agir em caso de preocupações com questões de segurança.

O processo atual surgiu após um caso semelhante na Flórida. O Procurador-Geral James Uthmeier revelou recentemente que a investigação criminal contra a OpenAI e o ChatGPT foi iniciada pelo Gabinete do Procurador do Estado.