Des juges fédéraux américains admettent avoir utilisé l'IA dans des décisions de justice « entachées d'erreurs »

Deux juges fédéraux américains ont admis que des membres de leur personnel avaient eu recours à l'intelligence artificielle pour rédiger des décisions de justice et que l'expérience avait mal tourné.

Dans deux lettres franches rendues publiques jeudi par le sénateur Chuck Grassley, président de la commission judiciaire du Sénat, les juges Henry T. Wingate (Mississippi) et Julien Xavier Neals (New Jersey) ont déclaré que des outils d'intelligence artificielle avaient été utilisés pour préparer des décisions de justice qui se sont avérées par la suite truffées d' erreurs factuelles et d'erreurs de droit. Ces deux décisions ont depuis ététrac.

Grassley, qui avait exigé des explications, a déclaré : « Chaque juge fédéral, et le pouvoir judiciaire en tant qu'institution, a l'obligation de veiller à ce que l'utilisation de l'IA générative ne viole pas les droits des justiciables ni n'empêche un traitement équitable en vertu de la loi. » 

Des erreurs du personnel révèlent les limites de l'IA dans les tribunaux

Dans sa lettre, le juge Neals du district du New Jersey a indiqué qu'un projet de décision dans une affaire de valeurs mobilières avait été rendu public « par erreur – une erreur humaine » après qu'un stagiaire en droit eut utilisé ChatGPT d'OpenAI à des fins de recherche sans autorisation ni déclaration préalable. La décision a été immédiatement retirée dès que l'erreur a été constatée.

Pour éviter que cela ne se reproduise, Neals a indiqué que son cabinet avait depuis élaboré une politique écrite en matière d'IA et renforcé son processus d'examen.

Le juge Wingate, qui siège dans le district sud du Mississippi, a déclaré qu'un greffier avait utilisé l'outil d'IA Perplexity « comme assistant de rédaction fondamental pour synthétiser les informations publiques disponibles dans le dossier » 

Ce projet d'ordonnance, émis dans le cadre d'une affaire de droits civiques, a été remplacé par la suite après que Wingate adentdes erreurs. Il a déclaré que cet événement était dû à un « manquement au contrôle humain », ajoutant qu'il avait depuis lors renforcé les procédures de révision au sein de son cabinet.

Critiques de l'utilisation de l'IA dans le travail juridique

Cet épisode vient s'ajouter à une liste croissante de controverses liées aux documents juridiques générés par l'IA. Ces dernières années, des avocats de plusieurs juridictions américaines ont été sanctionnés pour avoir déposé des documents rédigés par des chatbots, contenant des citations de jurisprudence falsifiées et une application erronéedentprécédents. 

Plus tôt ce mois-ci, le système judiciaire de l'État de New York a publié une nouvelle politique qui interdit aux juges et au personnel de saisirdent, privilégiées ou non publiques relatives à une affaire dans des outils d'IA génératifs publics.

Si le monde juridique s'est rapidement emparé du potentiel de l'IA pour améliorer son efficacité, les incidentsdentmis en lumière les limites de cette technologie, notamment sa tendance à produire des hallucinations, c'est-à-dire des informations plausibles mais erronées. Pour les tribunaux, où l'intégrité, l'exactitude des décisions et le respect de la charge de la preuve sont primordiaux, de tels manquements risquent d'éroder la confiance du public dans le système judiciaire.

Grassley, qui a félicité Wingate et Neals d'avoir reconnu leurs erreurs, a également exhorté le pouvoir judiciaire à mettre en place des directivestronstrictes en matière d'IA. 

Le Bureau administratif des tribunaux américains n'a pas publié de directives exhaustives sur l'utilisation de l'IA, bien que plusieurs cours d'appel fédérales étudient actuellement des cadres pour un déploiement limité et supervisé. Par ailleurs, des juristes proposeraient une règle de transparence obligeant les juges à mentionner publiquement toute utilisation de l'IA dans leurs décisions, à l'instar des exigences de citation pour les recherches externes.

Cesdentsurviennent alors que les agences fédérales et les organismes professionnels continuent de se débattre avec les questions de responsabilité en matière d'IA.