Les conseillers municipaux ignorent tout de la loi rédigée par l'IA et adoptée à l'unanimité.

Un événement récent a bouleversé le processus législatif : une ville brésilienne s'est retrouvée, à son insu, au cœur de ce qui pourrait être la première loi du pays entièrement conçue par l'intelligence artificielle. Le conseiller municipal Ramiro Rosario a utilisé, sans en informer ses collègues, le chatbot ChatGPT d'OpenAI pour rédiger une proposition relative au remplacement des compteurs d'eau volés. L'adoption unanime de cette proposition par le conseil municipal a suscité un débat sur le rôle de l'IA dans l'élaboration des politiques publiques, révélant à la fois le potentiel et les écueils de cette technologie émergente.

Le dévoilement d'une législation rédigée par l'IA

En octobre, Porto Alegre, la deuxième plus grande ville du sud du Brésil, a vu l'adoption discrète d'une loi entièrement rédigée par une intelligence artificielle, à l'insu des conseillers municipaux. Le conseiller Ramiro Rosario, cherchant une solution au problème des compteurs d'eau volés, a eu recours à ChatGPT pour générer une proposition. Le conseil municipal, composé de 36 membres, a approuvé le projet de loi à l'unanimité, et la loi est entrée en vigueur le 23 novembre.

L'arrivée de ChatGPT sur la scène publique il y a un an a lancé un débat mondial sur le potentiel transformateur des chatbots basés sur l'IA. Si certains y voient un outil prometteur pour simplifier les processus législatifs, des inquiétudes persistent quant aux conséquences imprévues de la prise en charge par des machines de tâches traditionnellement effectuées par des humains. L'dent de Porto Alegre illustre de façon frappante la double nature de l'IA dans les politiques publiques, soulevant des questions de transparence et de responsabilité.

L'intelligence artificielle, grâce à des modèles de langage complexes comme ChatGPT, fonctionne en prédisant le mot suivant dans une phrase. Cependant, ce processus n'est pas infaillible, car ces modèles peuvent introduire de fausses informations – un phénomène connu sous le nom d'hallucination. Une étude menée par la société technologique Vectara suggère que même des modèles avancés, tels que GPT, peuvent générer de fausses informations dans 3 % des cas, ce qui soulève des inquiétudes quant à la fiabilité des textes législatifs générés par l'IA.

Implications juridiques des lois rédigées par l'IA

L'utilisation de l'IA, notamment dans le domaine juridique, a suscité des débats quant à sa capacité à appréhender les nuances et la complexité inhérentes au droit. Andrew Perlman, doyen de la faculté de droit de l'université de Suffolk, souligne que si ChatGPT représente un changement majeur, ses limites se révèlentdent dans les situations exigeant une analyse juridique approfondie. Les insuffisances potentielles de l'IA dans l'interprétation des principes juridiques et de ladent soulèvent des inquiétudes quant à son rôle dans l'évolution du paysage juridique.

Malgré le manque de transparence entourant la proposition élaborée par l'IA, le conseiller Rosario justifie sa décision de garder le secret. Il affirme que révéler l'origine de l'IA au préalable aurait pu compromettre l'approbation du projet. Rosario prétend avoir saisi une brève requête dans ChatGPT et avoir reçu en quelques secondes une proposition complète, accompagnée de justifications. Son objectif dépasse la simple résolution d'un problème local : il vise à susciter un débat plus large sur l'utilisation éthique des technologies dans la gouvernance.

Qualifiant initialement la législation rédigée par l'IA de «dentdangereux », ledent du Conseil, Hamilton Sossmeier, a revu sa position. Après avoir approfondi la question, il reconnaît l'influence inévitable de l'IA sur les processus législatifs, la qualifiant de « tendance ». L'dent de Porto Alegre invite à réfléchir à l'évolution des relations entre l'IA et la gouvernance, avec la possibilité d'un changement de paradigme dans les pratiques législatives.

L’influence invisible de l’IA sur la législation

Alors que Porto Alegre tente de gérer les conséquences d'une loi rédigée par une IA et passée inaperçue au sein du conseil municipal, les implications plus larges de l' IA dans la législation exigent un examen approfondi. Cet incidentdent des questions fondamentales concernant la transparence, la responsabilité et l'utilisation éthique des technologies dans l'élaboration des politiques publiques. Face à cette situation inédite, il est essentiel de se demander : sommes-nous préparés à un avenir où l'IA jouera un rôle central dans l'élaboration de nos lois ? Comment concilier innovation et préservation de l'intégrité de nos processus démocratiques ?