Advogado enfrenta críticas por excesso de dependência do ChatGPT no tribunal

Um advogado de Nova York, Steven Schwartz, do escritório de advocacia Levidow, Levidow & Oberman, está sob fogo por incorporar o ChatGPT, um modelo de linguagem de IA, em sua pesquisa jurídica ao lidar com uma ação judicial contra a Avianca Airlines. O caso envolve Robert Mata, que alega ter sofrido uma lesão causada por um carrinho de serviço durante um voo com a companhia aérea colombiana em 2019, conforme relatado pelo CNN Business em 28 de maio.

O advogado apresentou documentações incorretas obtidas do ChatGPT

O caso tomou um rumo inesperado quando o juiz que supervisionava o processo notou inconsistências e erros factuais na documentação apresentada. Em uma declaração juramentada datada de 24 de maio, Schwartz admitiu ter usado o ChatGPT para sua pesquisa jurídica e afirmou que não estava ciente do potencial de informações falsas em seu conteúdo. Ele afirmou ainda que esta foi a primeira vez que utilizou o modelo de IA para pesquisa jurídica.

O escrutínio do juiz revelou que vários casos apresentados pelo advogado pareciam fictícios, com citações fabricadas e citações internas imprecisas. Além disso, certos casos referenciados foram considerados inexistentes, e houve um caso em que um número de processo foi erroneamente associado a outro documento judicial.

O advogado expressou arrependimento por confiar no chatbot de IA sem realizar sua devida diligência. Sua declaração juramentada enfatizou que ele se arrepende profundamente de ter usado inteligência artificial generativa no processo de pesquisa e promete não repetir a prática sem verificação absoluta da autenticidade.

Analistas discutem o potencial da IA substituir humanos

A integração do ChatGPT nos fluxos de trabalho profissionais desencadeou um debate contínuo sobre sua adequação e confiabilidade. Embora a inteligência dos modelos de IA como o ChatGPT continue a avançar, permanecem dúvidas sobre sua capacidade de substituir totalmente os trabalhadores humanos. Syed Ghazanfer, desenvolvedor blockchain, reconhece o valor do ChatGPT, mas questiona suas habilidades de comunicação como substituto completo para a interação humana. Ele destaca que as linguagens de programação foram criadas para atender a requisitos que podem não ser comunicados de forma eficaz em inglês nativo.

À medida que a tecnologia de IA avança, desenvolvedores e profissionais navegam pelo delicado equilíbrio entre aproveitar suas capacidades e garantir a precisão e a validade das informações que ela gera. O caso envolvendo Steven Schwartz e seu uso do ChatGPT serve como um conto de advertência, enfatizando a importância da supervisão humana e da avaliação crítica na pesquisa jurídica e em outros contextos profissionais.

Embora modelos de IA como o ChatGPT possam ajudar a agilizar certas tarefas, eles devem ser usados em conjunto com a expertise humana e processos de verificação rigorosos para minimizar o risco de imprecisões e informações falsas. À medida que os limites das capacidades da IA se expandem, continua sendo essencial que os profissionais exerçam prudência e discernimento ao incorporar essas ferramentas em seu trabalho.