Les juges fédéraux américains admettent avoir utilisé l'IA sur des ordonnances judiciaires « pleines d'erreurs »
- Deux juges fédéraux américains ont admis que leur personnel a utilisé des outils d'IA comme ChatGPT et Perplexity pour rédiger des décisions qui ont ensuite été retirées en raison d'erreurs factuelles et juridiques.
- Ces deux juges ont depuis mis en place des procédures de révision plus strictes et rédigé des politiques d'utilisation de l'IA au sein de leurs chambres.
- Le sénateur Grassley a exhorté le pouvoir judiciaire à établir des directives plus solides sur l'IA, alors que les tribunaux et les universitaires débattent des règles de transparence dans les décisions assistées par IA.
Deux juges fédéraux américains ont admis que le personnel de leur cabinet s'est tourné vers l'intelligence artificielle pour aider à rédiger des décisions de justice et que l'expérience a mal tourné.
Dans une paire de lettres candides rendues publiques jeudi par le sénateur Chuck Grassley, président de la commission judiciaire du Sénat, les juges Henry T. Wingate du Mississippi et Julien Xavier Neals du New Jersey ont déclaré que des outils d’IA avaient été utilisés pour préparer des ordonnances judiciaires qui se sont ensuite révélées truffées de erreurs factuelles et d’erreurs juridiques. Ces deux décisions ont depuis été retirées.
Grassley, qui avait exigé des explications, a déclaré : « Chaque juge fédéral, et la magistrature en tant qu’institution, a l’obligation de veiller à ce que l’utilisation de l’IA générative ne viole pas les droits des justiciables ni n’empêche un traitement équitable devant la loi. »
Les erreurs du personnel révèlent les limites de l’IA dans les tribunaux
Dans sa lettre, le juge Neals du district du New Jersey a indiqué qu’un projet de décision dans une affaire de valeurs mobilières avait été publié « par erreur – une erreur humaine » après qu’un stagiaire en droit eut utilisé ChatGPT d’OpenAI pour ses recherches sans autorisation ni divulgation. La décision a été immédiatement retirée dès que l’erreur a été découverte.
Pour éviter toute récidive, M. Neals a déclaré que son cabinet avait depuis mis en place une politique écrite sur l’IA et renforcé son processus de révision.
Le juge Wingate, qui siège dans le district sud du Mississippi, a déclaré qu’un clerc de justice avait utilisé l’outil d’IA Perplexity « comme assistant de rédaction fondamental pour synthétiser les informations accessibles au public sur le dossier ».
Cette ordonnance provisoire, rendue dans une affaire de droits civiques, a été remplacée après qu’il eut identifié des erreurs. M. Wingate a déclaré que cet événement « constituait un lapsus de supervision humaine », ajoutant qu’il avait depuis resserré les procédures de révision au sein de son cabinet.
Critiques concernant l’utilisation de l’IA dans le travail juridique
Cet épisode s’ajoute à une liste croissante de controverses impliquant des documents juridiques générés par l’IA. Des avocats dans plusieurs juridictions des États-Unis ont fait l’objet de sanctions ces dernières années pour avoir soumis des mémoires rédigés par des chatbots, qui incluaient des citations d’affaires fictives et une application erronée de la jurisprudence.
Plus tôt ce mois-ci, le système judiciaire de l’État de New York a publié une nouvelle politique qui interdit aux juges et au personnel de saisir des informations confidentielles, privilégiées ou non publiques dans des outils d’IA générative publics.
Si la profession juridique s’est empressée d’explorer le potentiel de l’IA pour améliorer l’efficacité, ces incidents ont exposé les limites de la technologie, en particulier sa tendance à halluciner, c’est-à-dire à générer des informations plausibles mais fausses. Pour les tribunaux, où l’intégrité, l’exactitude des décisions et la charge de la preuve sont primordiales, de tels lapsus risquent de miner la confiance du public dans le système judiciaire.
M. Grassley, qui a félicité MM. Wingate et Neals pour avoir assumé leurs erreurs, a également exhorté la magistrature à mettre en place des directives plus strictes sur l’IA.
Le Bureau administratif des tribunaux américains n’a pas publié de directives complètes sur l’utilisation de l’IA, bien que plusieurs cours d’appel fédérales explorent reportedly des cadres pour un déploiement limité et supervisé. Les universitaires en droit, quant à eux, proposeraient reportedly une règle de divulgation, qui obligerait les juges à indiquer publiquement toute utilisation de l’IA dans leurs opinions ou ordonnances, de manière similaire aux exigences de citation pour la recherche externe.
Ces incidents surviennent alors que les agences fédérales et les organismes professionnels continuent de s’interroger sur la responsabilité de l’IA.
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
Hannah Collymore
Hannah est rédactrice et éditrice avec près de dix ans d'expérience dans la rédaction de blogs et le reporting d'événements dans l'espace crypto. Chez Cryptopolitan, Hannah contribue à la page actualités, en rapportant et en analysant les derniers développements dans les secteurs de la DeFi, des RWA, de la régulation des crypto-monnaies, de l'IA et des technologies de pointe. Elle est diplômée de l'Université Arcadia avec un diplôme en administration des affaires.
