Les défenseurs du droit cherchent à clarifier l'utilisation de l'intelligence artificielle pour les jugements

Dans une décision qui a suscité controverse et inquiétudes au sein de la communauté juridique taïwanaise, le Yuan judiciaire a récemment annoncé son intention d'intégrer l'intelligence artificielle (IA) à la rédaction des décisions judiciaires. Si les partisans affirment que cette technologie pourrait rationaliser et améliorer l'efficacité du système juridique, les professionnels du droit et les défenseurs de la justice appellent à la transparence, à la responsabilité et à des garde-fous pour prévenir les jugements erronés et biaisés.

Appels à la divulgation publique

Plusieurs groupes de premier plan, dont l'Ordre des avocats de Taïwan et la Fondation pour la réforme judiciaire, ont exprimé leurs inquiétudes concernant la décision du Yuan judiciaire. Ils soulignent la nécessité d'une communication claire avec le public sur la manière dont l'IA aidera les juges à rédiger les décisions et sur les mesures qui seront mises en place pour prévenir les erreurs et les biais potentiels. 

Élargir le rôle de l'IA

Initialement, le Yuan judiciaire prévoit d'utiliser l'IA générative dans les affaires de fraude, de blanchiment d'argent et de conduite dangereuse, une fois les tests du système achevés. De plus, ils prévoient d'étendre l'implication de l'IA aux litiges civils liés à l'indemnisation des accidents de la circulation et aux annulations et liquidations de dettes. Le Yuan judiciaire affirme que son système d'IA est spécifiquement conçu pour produire des projets de décisions et non pas simplement générer du contenu standardisé. Il est présenté comme un « outil intelligent » capable de générer du contenu basé sur les accusations pertinentes et d'analyser rapidement les faits criminels et les preuves.

Questions sans réponse

Malgré l'enthousiasme du Yuan judiciaire pour l'intégration de l'IA, la communauté juridique reste sceptique. Plusieurs questions pressantes appellent des réponses :

Sources de données et formation

La Cour suprême n'a pas divulgué la période de temps à partir de laquelle les documents juridiques ont été extraits pour entraîner le système d'IA. Les professionnels du droit s'inquiètent de la capacité du système à analyser instantanément les faits criminels et les preuves, surtout s'il repose principalement sur des jugements et des actes d'accusation plutôt que sur les dossiers spécifiques aux affaires.

Sous-traitant tiers et gestion des données

La Cour suprême n'a pas apporté de clarté sur la manière dont un sous-traitant tiers a construit la base de données utilisée pour entraîner le système d'IA. De plus, il reste incertain si les données sont stockées et gérées par le sous-traitant ou par la Cour suprême.

Le public a le droit de comprendre comment le sous-traitant traitera les problèmes découlant d'informations incomplètes ou biaisées dans la base de données lors du réglage des paramètres de l'IA. Par ailleurs, une transparence est nécessaire concernant la résolution des litiges de responsabilité entre la Cour suprême et le sous-traitant.

Autorité et contrôle des juges

Bien que le Yuan judiciaire affirme que les juges conserveront l'autorité ultime sur la détermination des faits, l'application de la loi et la prononciation des peines, des inquiétudes subsistent quant à l'exactitude des modifications apportées au contenu généré par IA. Il est nécessaire de clarifier si les juges auront le dernier mot sur les facteurs qui conduisent à leurs jugements.

Exigences de transparence

Les professionnels du droit et les défenseurs plaident pour une plus grande transparence et un meilleur accès à la base de données d'entraînement de l'IA. Permettre aux avocats, aux procureurs et aux autres parties prenantes d'examiner cette base de données permettrait un examen collectif des biais potentiels et des risques inhérents au système.

Précédents internationaux et préoccupations

Bien que l'IA ait été utilisée dans d'autres pays pour aider à compiler des preuves dans des affaires judiciaires, son utilisation pour assister les juges dans la rédaction des décisions et la prise de décision reste un domaine relativement inexploré au niveau international. Une étude de l'Université Purdue soulève des inquiétudes en montrant qu'une part significative des individus ne parvient pas à détecter les erreurs dans le contenu généré par l'IA, avec un taux de précision inférieur à 50 %, un phénomène connu sous le nom d'« hallucination artificielle ».

Risques de l'IA dans la justice

Une prise de conscience croissante des risques liés à une utilisation extensive de l'IA dans le système judiciaire, particulièrement aux États-Unis. Le rôle de l'IA pour aider les juges à prononcer des peines en fonction du risque de récidive des accusés peut involontairement renforcer les préjugés et inégalités raciales existants. L'IA, bien que puissante, peut négliger des facteurs culturels cruciaux, les situations des parties prenantes et l'intention—des éléments essentiels que les juges doivent prendre en compte lors de la prise de décision, et qui ne peuvent être reproduits par l'IA.

L'intégration de l'IA dans le système judiciaire promet une efficacité accrue, mais soulève également des questions complexes concernant la transparence, les biais, la responsabilité et le rôle des juges. La communauté juridique à Taïwan appelle à une approche prudente privilégiant la divulgation publique, la protection contre les biais et la préservation du rôle essentiel du jugement humain dans le processus juridique. Alors que l'utilisation de l'IA dans le domaine juridique continue d'évoluer, répondre à ces préoccupations sera essentiel pour garantir des résultats équitables et justes pour tous.