Morgan & Morgan envia forte aviso aos advogados contra cair em alucinações de IA

A Morgan & Morgan, um escritório de advocacia de lesões pessoais dos EUA, enviou supostamente um e-mail urgente este mês para os mais de 1.000 advogados que retém. A comunicação continha um aviso crucial sobre a capacidade da IA de criar leis de casos muito convincentes, mas falsas. 

O escritório de advocadia alertou que qualquer advogado que use essas informações inventadas em uma petição judicial para apoiar seu argumento pode ser demitido.

A mensagem era clara e direta ao ponto. 

As autoridades da Morgan & Morgan não podiam dar rodeios porque um juiz federal no Wyoming havia acabado ameaçado sancionar dois advogados do escritório por incluírem citações de casos fictícios em uma ação contra Walmart. 

De acordo com o depoimento de um dos advogados que usou alucinações de IA em uma petição judicial, ele usou um programa de IA que “alucinou” os casos e pediu desculpas pelo que chamou de erro inadvertido.

Juiz ainda não decidiu sobre ação disciplinar contra advogados da Morgan & Morgan    

Por muito tempo, os céticos anteciparam os piores cenários da proliferação da IA. Agora, a IA está afetando o sistema jurídico, com seus casos inventados levando tribunais em todo o país a questionar ou até punir advogados infratores. 

Houve pelo menos sete casos nos últimos dois anos, e isso se tornou oficialmente uma nova dor de cabeça de alta tecnologia para litigantes e juízes que agora precisam primeiro determinar a credibilidade dos argumentos dos advogados.  

O caso Walmart é um dos casos mais populares de um advogado usando “alucinações” de IA no tribunal, pois envolve um escritório de advocacia bem conhecido e um grande réu corporativo. No entanto, seu uso foi observado em várias outras ações judiciais menos populares desde que chatbots como ChatGPT impulsionaram a era da IA.

O juiz ainda não emitiu uma decisão sobre se deve disciplinar os advogados no caso Walmart, que envolvia um brinquedo hoverboard supostamente defeituoso.

Advogados são aconselhados a ter cautela com fatos inventados pela IA generativa 

É verdade que, graças à IA generativa, os advogados agora passam menos tempo pesquisando e redigindo petições legais. Muitos escritórios de advocacia até contrataram fornecedores de IA ou construíram seus próprios ferramentas de IA para maximizar a produtividade. 

De acordo com uma pesquisa da Thomson Reuters no ano passado, pelo menos 63% dos advogados pesquisados pela empresa-mãe da Reuters disseram que usaram IA em seu trabalho, enquanto 12% disseram que a usam regularmente.

O problema é que a IA generativa é famosa por fazer fatos com confiança, então os advogados que tentam usá-la para o trabalho devem fazê-lo com cautela, disseram consultores jurídicos. 

Quando uma IA às vezes produz informações falsas, isso é chamado de “alucinações”. Os modelos geram respostas com base em padrões estatísticos aprendidos de grandes conjuntos de dados, em vez de verificar fatos nesses conjuntos de dados.

De acordo com o Procurador, os advogados são obrigados a verificar e assumir responsabilidade por suas petições judiciais ou arriscar enfrentar ação disciplinar. No ano passado, a American Bar Association informou aos seus 400.000 membros que essas obrigações se estendem a “até uma declaração incorreta não intencional” produzida por meio de IA.

Andrew Perlman, Reitor da faculdade de direito da Universidade de Suffolk e defensor da IA, disse: “Quando os advogados são pegos usando ChatGPT ou qualquer ferramenta de IA generativa para criar citações sem verificá-las, isso é incompetência, pura e simplesmente.” 

Harry Surden, professor de direito na faculdade de direito da Universidade do Colorado que estuda IA e direito, instou os advogados a dedicar tempo para aprender “os pontos fortes e fracos das ferramentas” nas quais estão gradualmente se tornando dependentes. 

Surden disse que os casos anteriores destacam uma “falta de alfabetização em IA” na indústria, onde muitos advogados não estão totalmente cientes dos limites e dos erros potenciais que as ferramentas de IA podem cometer, levando-os a apresentar esses erros em suas petições legais.

Claro, Surden não culpa a tecnologia. “Os advogados sempre cometeram erros em suas petições antes da IA. Isso não é novo,” ele disse. 

Embora a Morgan & Morgan não tenha proibido seus advogados de usar IA, parece que ela quer que seus advogados estejam cientes dos riscos potenciais de usar IA generativa. Esse conhecimento deve reduzir as chances de cometer erros, mas não elimina completamente o risco. Um sistema de verificação rigoroso para conteúdo gerado por IA relacionado ao trabalho jurídico será crucial para manter os padrões profissionais da indústria, manter a confiança do público e evitar repercussões legais.