Morgan & Morgan lance un avertissementtronaux avocats contre le risque de se laisser berner par les hallucinations de l'IA

Le cabinet d'avocats américain Morgan & Morgan, spécialisé dans les préjudices corporels, aurait envoyé ce mois-ci un courriel urgent à ses plus de 1 000 avocats. Ce message contenait une mise en garde cruciale concernant la capacité de l'intelligence artificielle à produire de faux cas de jurisprudence très convaincants. 

Le cabinet d'avocats a averti que tout avocat qui utiliserait ces informations inventées dans un document déposé auprès du tribunal pour étayer son argumentation pourrait être radié des effectifs.

Le message était clair et direct. 

Les dirigeants de Morgan & Morgan ne pouvaient pas se permettre de mâcher leurs mots car un juge fédéral du Wyoming venait de menacer de sanctionner deux avocats du cabinet pour avoir inclus des citations de jurisprudence fictives dans une action en justice contre Walmart. 

Selon les aveux de l'un des avocats ayant utilisé des hallucinations générées par l'IA dans un document judiciaire, il a utilisé un programme d'IA qui a « halluciné » les affaires et s'est excusé pour ce qu'il a qualifié d'erreur involontaire.

Le juge n'a pas encore statué sur les mesures disciplinaires à prendre contre les avocats du cabinet Morgan & Morgan    

Depuis longtemps, les sceptiques redoutent les pires scénarios liés à la prolifération de l'IA. Aujourd'hui, l'IA affecte le système judiciaire : les affaires qu'elle génère amènent les tribunaux du pays à interroger, voire à sanctionner, les avocats fautifs. 

On a recensé au moins sept cas ces deux dernières années, et c'est devenu officiellement un nouveau casse-tête technologique pour les plaideurs et les juges qui doivent désormais d'abord déterminer la crédibilité des arguments des avocats.  

L'affaire Walmart est l'un des cas les plus médiatisés d'utilisation par un avocat des « hallucinations » générées par l'IA au tribunal, car elle oppose un cabinet d'avocats renommé à une grande entreprise. Cependant, son utilisation a été observée dans diverses autres affaires moins médiatisées depuis que des chatbots comme ChatGPT ont marqué le début de l'ère de l'IA.

Le juge n'a pas encore statué sur la question de savoir s'il convient de sanctionner les avocats dans l'affaire Walmart, qui concernait un jouet hoverboard prétendument défectueux.

Les avocats sont invités à la prudence face aux faits inventés par l'IA générative 

Il est vrai que grâce à l'IA générative, les avocats consacrent désormais moins de temps à la recherche et à la rédaction de mémoires juridiques. De nombreux cabinets d'avocats ont même fait appeltracdes fournisseurs d'IA ou développé leurs propres outils d'IA afin d'optimiser leur productivité. 

Selon une enquête menée l'an dernier par Thomson Reuters, au moins 63 % des avocats interrogés par la société mère de Reuters ont déclaré avoir utilisé l'IA dans leur travail, tandis que 12 % ont indiqué l'utiliser régulièrement.

Le problème, c'est que l'IA générative est connue pour inventer des faitsdent; les avocats qui tentent de l'utiliser dans le cadre de leur travail doivent donc le faire avec prudence, ont déclaré des conseillers juridiques. 

Lorsqu'une IA produit parfois de fausses informations, on parle d'« hallucinations ». Les modèles génèrent des réponses basées sur des schémas statistiques appris à partir de vastes ensembles de données plutôt que sur la vérification des faits contenus dans ces ensembles de données.

Selon l'avocat, les avocats sont tenus de vérifier et de défendre leurs dossiers déposés auprès des tribunaux, sous peine de sanctions disciplinaires. L'année dernière, l'Association du barreau américain a informé ses 400 000 membres que ces obligations s'étendent même à une erreur involontaire produite par l'intelligence artificielle.

Andrew Perlman, doyen de la faculté de droit de l'université de Suffolk et partisan de l'IA, a déclaré : « Lorsque des avocats sont pris en flagrant délit d'utilisation de ChatGPT ou de tout autre outil d'IA générative pour créer des citations sans les vérifier, c'est de l'incompétence, tout simplement. » 

Harry Surden, professeur de droit à la faculté de droit de l'Université du Colorado, spécialiste de l'IA et du droit, a exhorté les avocats à prendre le temps d'apprendre « les forces et les faiblesses des outils » dont ils deviennent progressivementdent . 

Surden a déclaré que les cas précédents mettent en évidence un « manque de connaissances en matière d'IA » dans le secteur, où de nombreux avocats ne sont pas pleinement conscients des limites et des erreurs potentielles que peuvent commettre les outils d'IA, ce qui les amène à présenter ces erreurs dans leurs documents juridiques.

Bien entendu, Surden n'incrimine pas la technologie. « Les avocats ont toujours commis des erreurs dans leurs dossiers, même avant l'avènement de l'IA. Ce n'est pas nouveau », a-t-il déclaré. 

Bien que Morgan & Morgan n'ait pas interdit à ses avocats d'utiliser l'IA, le cabinet souhaite les sensibiliser aux risques potentiels liés à l'IA générative. Cette sensibilisation devrait réduire la probabilité d'erreurs, sans toutefois les éliminer totalement. Un système de vérification rigoureux des contenus générés par l'IA dans le cadre d'activités juridiques sera essentiel au maintien des normes professionnelles du secteur, à la préservation de la confiance du public et à la prévention des poursuites judiciaires.