Advogados Buscam Clareza sobre o Uso da IA para Julgamentos

Em uma medida que provocou controvérsia e preocupações dentro da comunidade jurídica de Taiwan, o Yuan Judicial anunciou recentemente sua intenção de integrar a inteligência artificial (IA) na redação de decisões judiciais. Embora os defensores argumentem que essa tecnologia poderia agilizar e melhorar a eficiência do sistema legal, profissionais jurídicos e defensores da justiça estão pedindo transparência, responsabilidade e salvaguardas para evitar julgamentos errôneos e tendenciosos.

Chamadas por divulgação pública

Vários grupos proeminentes, incluindo a Associação de Advogados de Taiwan e a Fundação de Reforma Judicial, expressaram apreensão sobre a decisão do Yuan Judicial. Eles enfatizam a necessidade de comunicação clara com o público sobre como a IA ajudará os juízes a elaborar decisões e quais medidas serão implementadas para prevenir erros e vieses potenciais. 

Expandindo o papel da IA

Inicialmente, o Yuan Judicial pretende empregar IA generativa em casos envolvendo fraude, lavagem de dinheiro e direção perigosa, após a conclusão dos testes do sistema. Além disso, eles planejam expandir o envolvimento da IA para processos civis relacionados a compensação por acidentes de trânsito e cancelamento e liquidação de dívidas. O Yuan Judicial afirma que seu sistema de IA foi projetado especificamente para produzir rascunhos de decisões e não apenas gerar conteúdo padrão. É apresentado como uma "ferramenta inteligente" capaz de gerar conteúdo com base nas acusações relevantes e analisar rapidamente os fatos e evidências criminais.

Perguntas sem resposta

Apesar do entusiasmo do Yuan Judicial em integrar a IA, a comunidade jurídica mantém-se cética. Existem várias questões prementes que exigem respostas:

Fontes de dados e formação

O Yuan Judicial não divulgou o intervalo temporal a partir do qual os documentos jurídicos foram recolhidos para treinar o sistema de IA. Os profissionais do direito estão preocupados com a capacidade do sistema de analisar instantaneamente os factos criminais e as provas, especialmente se este se basear principalmente em sentenças judiciais e acusações, em vez de processos específicos.

Terceiros contratados e gestão de dados

O Yuan Judicial não esclareceu como um contratante terceirizado construiu a base de dados utilizada para treinar o sistema de IA. Além disso, permanece incerto se os dados são armazenados e geridos pelo contratante ou pelo Yuan Judicial.

O público tem o direito de compreender como o contratante abordará as questões decorrentes de informações incompletas ou tendenciosas na base de dados ao ajustar os parâmetros da IA. Além disso, é necessária transparência quanto à forma como as disputas de responsabilidade entre o Yuan Judicial e o contratante serão resolvidas.

Autoridade e supervisão dos juízes

Embora o Yuan Judicial afirme que os juízes manterão a autoridade final sobre a determinação dos factos, a aplicação da lei e a prolação de sentenças, existem preocupações quanto à precisão das alterações feitas ao conteúdo gerativo. É necessária clareza sobre se os juízes terão a última palavra sobre os fatores que conduzem às suas decisões.

Exigências de transparência

Profissionais do direito e defensores da justiça argumentam a favor de uma maior transparência e acesso à base de dados de formação da IA. Permitir que advogados, procuradores e outras partes interessadas examinem a base de dados permitiria uma fiscalização coletiva dos potenciais vieses e riscos inerentes ao sistema.

Precedentes internacionais e preocupações

Embora a IA tenha sido utilizada em outros países para auxiliar na compilação de provas para processos judiciais, o seu uso para auxiliar juízes na redação de sentenças e na tomada de decisões ainda é um terreno relativamente inexplorado internacionalmente. Preocupações foram levantadas por um estudo da Universidade Purdue, que mostra que uma parte significativa das pessoas pode não detectar erros no conteúdo gerado por IA, com uma taxa de precisão inferior a 50%, um fenômeno conhecido como "alucinação artificial".

Riscos da IA na justiça

Há uma crescente conscientização sobre os riscos associados ao uso extensivo de IA no sistema de justiça, particularmente nos Estados Unidos. O papel da IA em auxiliar juízes na sentença com base no risco de reincidência dos réus pode, inadvertidamente, reforçar preconceitos existentes e desigualdades raciais. A IA, embora poderosa, pode negligenciar fatores culturais cruciais, situações das partes interessadas e intenções — elementos essenciais que os juízes devem considerar ao tomar decisões e que não podem ser replicados pela IA.

A integração da IA no sistema judicial promete aumentar a eficiência, mas também levanta questões complexas sobre transparência, viés, responsabilidade e o papel dos juízes. A comunidade jurídica em Taiwan está pedindo uma abordagem cautelosa que priorize a divulgação pública, proteja contra vieses e preserve o papel essencial do julgamento humano no processo legal. À medida que o uso da IA no campo jurídico continua a evoluir, abordar essas preocupações será essencial para garantir resultados justos e equitativos para todos.