Morgan & Morgan envoie un avertissement ferme aux avocats contre les hallucinations de l’IA

Morgan & Morgan, un cabinet d’avocats américain spécialisé en blessures personnelles, aurait envoyé un e-mail urgent ce mois-ci aux plus de 1 000 avocats qu’il retient. La communication contenait un avertissement crucial sur la capacité de l’IA à produire des lois de cas très convaincantes mais fictives. 

Le cabinet d’avocats a averti que tout avocat utilisant ces informations inventées dans une pièce de procédure judiciaire pour soutenir son argument pourrait être disqualifié.

Le message était clair et direct. 

Les dirigeants de Morgan & Morgan ne pouvaient pas se permettre de tourner autour du pot parce qu’un juge fédéral au Wyoming venait de menacer de sanctionner deux avocats du cabinet pour avoir inclus des citations de cas fictifs dans une poursuite contre Walmart. 

Selon l’aveu de l’un des avocats qui a utilisé les hallucinations de l’IA dans une pièce de procédure judiciaire, il a utilisé un programme d’IA qui a « halluciné » les cas et s’est excusé pour ce qu’il a appelé une erreur involontaire.

Le juge doit encore décider des mesures disciplinaires contre les avocats de Morgan & Morgan    

Depuis longtemps, les sceptiques anticipaient les pires scénarios de la prolifération de l’IA. Maintenant, l’IA affecte le système juridique, avec ses cas inventés conduisant les tribunaux du pays à remettre en question ou même à punir les avocats fautifs. 

Il y a eu au moins sept cas au cours des deux dernières années, et cela est officiellement devenu un nouveau cauchemar high-tech pour les plaideurs et les juges qui doivent désormais d’abord déterminer la crédibilité des arguments des avocats.  

L’affaire Walmart est l’un des cas les plus populaires d’un avocat utilisant les « hallucinations » de l’IA au tribunal car elle implique un cabinet d’avocats bien connu et un grand défendeur corporatif. Cependant, son utilisation a été observée dans divers autres procès moins populaires depuis que les chatbots comme ChatGPT ont démarré l’ère de l’IA.

Le juge doit encore statuer sur la question de savoir s’il faut discipliner les avocats dans l’affaire Walmart, qui impliquait un jouet hoverboard prétendument défectueux.

Les avocats sont exhortés à faire preuve de prudence face aux faits inventés par l’IA générative 

Il est vrai que grâce à l’IA générative, les avocats passent moins de temps à faire des recherches et à rédiger des mémoires juridiques. De nombreux cabinets d’avocats ont même engagé des fournisseurs d’IA ou construit leurs propres Outils d'IA pour maximiser la productivité. 

Selon une enquête de Thomson Reuters l’année dernière, au moins 63 % des avocats interrogés par la société mère de Reuters ont déclaré avoir utilisé l’IA dans leur travail, tandis que 12 % ont déclaré l’utiliser régulièrement.

Le hic est que l’IA générative est célèbre pour inventer des faits avec confiance, donc les avocats qui essaient de l’utiliser pour leur travail doivent le faire avec prudence, ont déclaré les conseillers juridiques. 

Lorsqu’une IA produit parfois des informations fausses, on appelle cela des « hallucinations ». Les modèles génèrent des réponses basées sur des modèles statistiques appris à partir de grands ensembles de données plutôt que par la vérification des faits dans ces ensembles de données.

Selon l’Avocat, les avocats sont tenus de vérifier et de soutenir leurs pièces de procédure judiciaire ou risquent de faire face à des mesures disciplinaires. L’année dernière, l’American Bar Association a informé ses 400 000 membres que ces obligations s’étendent aux « même une déclaration involontaire erronée » produite par l’IA.

Andrew Perlman, doyen de la faculté de droit de l’Université Suffolk et partisan de l’IA, a déclaré : « Lorsque les avocats sont pris en train d’utiliser ChatGPT ou tout autre outil d’IA générative pour créer des citations sans les vérifier, c’est de l’incompétence, tout simplement. » 

Harry Surden, professeur de droit à la faculté de droit de l’Université du Colorado qui étudie l’IA et le droit, a exhorté les avocats à prendre le temps d’apprendre « les forces et les faiblesses des outils » auxquels ils deviennent progressivement dépendants. 

Surden a déclaré que les cas précédents mettent en évidence un « manque de littératie en IA » dans l’industrie, où de nombreux avocats ne sont pas complètement conscients des limites et des erreurs potentielles que les outils d’IA peuvent commettre, les amenant à présenter ces erreurs dans leurs pièces juridiques.

Bien sûr, Surden ne blame pas la technologie. « Les avocats ont toujours fait des erreurs dans leurs pièces avant l’IA. Ce n’est pas nouveau, » a-t-il dit. 

Bien que Morgan & Morgan n’ait pas interdit à ses avocats d’utiliser l’IA, il semble qu’il veuille que ses avocats soient conscients des risques potentiels liés à l’utilisation de l'IA générative. Cette connaissance devrait réduire les chances de faire des erreurs, mais n’élimine pas complètement le risque. Un système de vérification approfondi pour le contenu généré par l’IA lié au travail juridique sera crucial pour maintenir les normes professionnelles de l’industrie, préserver la confiance du public et éviter les répercussions juridiques.