Juízes federais dos EUA admitem usar IA em decisões judiciais "cheias de erros"

Dois juízes federais dos EUA admitiram que funcionários de seus gabinetes recorreram à inteligência artificial para ajudar a redigir decisões judiciais e que o experimento deu muito errado.

Em duas cartas francas tornadas públicas na quinta-feira pelo senador Chuck Grassley, presidente do Comitê Judiciário do Senado, os juízes Henry T. Wingate, do Mississippi, e Julien Xavier Neals, de Nova Jersey, afirmaram que ferramentas de inteligência artificial foram usadas na elaboração de decisões judiciais que, posteriormente, se revelaram repletas de erros factuais e equívocos jurídicos. Ambas as decisões foram posteriormentetrac.

Grassley, que havia exigido explicações, disse: "Cada juiz federal, e o judiciário como instituição, tem a obrigação de garantir que o uso de IA generativa não viole os direitos dos litigantes nem impeça um tratamento justo perante a lei." 

Erros da equipe expõem as limitações da IA ​​no tribunal

Em sua carta, o juiz Neals, do Distrito de Nova Jersey, afirmou que uma minuta de decisão em um processo de valores mobiliários havia sido divulgada “por engano — erro humano” depois que um estagiário de direito usou o ChatGPT da OpenAI para pesquisa sem autorização ou divulgação. A decisão foi prontamente retirada assim que o erro foi descoberto.

Para evitar que isso se repita, Neals afirmou que seu escritório criou, desde então, uma política escrita sobre IA e aprimorou seu processo de revisão.

O juiz Wingate, que atua no Distrito Sul do Mississippi, disse que um assistente jurídico usou a ferramenta de IA Perplexity "como um assistente de redação fundamental para sintetizar informações publicamente disponíveis no processo" 

Essa minuta de ordem, emitida em um caso de direitos civis, foi posteriormente substituída após eledenterros. Wingate afirmou que o evento "foi uma falha na supervisão humana", acrescentando que, desde então, reforçou os procedimentos de revisão em seu gabinete.

Críticas ao uso da IA ​​no trabalho jurídico

O episódio soma-se a uma crescente lista de controvérsias envolvendo material jurídico gerado por IA. Advogados em diversas jurisdições dos EUA enfrentaram sanções nos últimos anos por submeterem petições redigidas por chatbots que incluíam citações de casos falsificadas e aplicação incorreta dedent. 

No início deste mês, o sistema judiciário do estado de Nova York divulgou uma nova política que restringe juízes e funcionários de inserirdent, privilegiadas ou não públicas sobre casos em ferramentas públicas de IA generativa.

Embora a área jurídica tenha explorado rapidamente o potencial da IA ​​para melhorar a eficiência, os incidentesdentas limitações da tecnologia, particularmente sua tendência a gerar alucinações, ou seja, informações plausíveis, porém falsas. Para os tribunais, onde a integridade, a precisão das decisões e o ônus da prova são fundamentais, tais falhas podem minar a confiança pública no sistema de justiça.

Grassley, que elogiou Wingate e Neals por admitirem os erros, também instou o judiciário a implementar diretrizestronpara a IA. 

O Escritório Administrativo dos Tribunais dos EUA não divulgou diretrizes abrangentes sobre o uso de IA, embora vários tribunais de circuito estejam, segundo relatos, explorando estruturas para uma implementação limitada e supervisionada. Por outro lado, juristas estariam propondo uma regra de divulgação, que exigiria que os juízes mencionassem publicamente qualquer uso de IA em suas decisões ou despachos, de maneira semelhante aos requisitos de citação para pesquisas externas.

Osdentocorrem em um momento em que agências federais e órgãos profissionais continuam a lidar com questões sobre a responsabilidade da IA ​​(Inteligência Artificial).