Conselheiros Locais Desconhecem enquanto Lei Criada por IA Passa por Unanimidade

Em uma recente reviravolta nos processos legislativos, uma cidade no Brasil tornou-se inadvertidamente o palco do que poderia ser a primeira lei criada por IA da nação, inteiramente gerada por inteligência artificial. O conselheiro Ramiro Rosario, sem o conhecimento de seus pares, utilizou o chatbot da OpenAI, ChatGPT, para redigir uma proposta abordando a substituição de medidores de consumo de água roubados. A subsequente aprovação unânime pelo conselho desencadeou um debate sobre o papel da IA na formulação de políticas públicas, revelando tanto o potencial quanto as armadilhas desta tecnologia emergente.

A revelação da legislação autorada por IA

Em outubro, Porto Alegre, a segunda maior cidade do sul do Brasil, testemunhou a passagem silenciosa de uma lei que, desconhecida dos conselheiros, foi inteiramente autorada por IA. O conselheiro Ramiro Rosario, buscando uma solução para o problema dos medidores de consumo de água roubados, recorreu ao ChatGPT para gerar uma proposta. O conselho desprevenido, composto por 36 membros, aprovou o projeto de lei por unanimidade, com a lei entrando oficialmente em vigor em 23 de novembro.

A chegada do ChatGPT à esfera pública há um ano iniciou um debate global sobre o potencial transformador dos chatbots alimentados por IA. Enquanto alguns o veem como uma ferramenta promissora para simplificar os processos legislativos, persistem preocupações sobre as consequências não intencionais de máquinas lidando com tarefas tradicionalmente executadas por humanos. O incidente em Porto Alegre serve como um exemplo nítido da natureza dual da IA na política pública, levantando questões sobre transparência e responsabilidade.

A IA, impulsionada por modelos de linguagem grande como o ChatGPT, opera prevendo a próxima palavra em uma frase. No entanto, esse processo não é infalível, pois esses modelos podem introduzir informações falsas – um fenômeno conhecido como alucinação. Pesquisas da empresa de tecnologia Vectara sugerem que mesmo modelos avançados, como o GPT, podem gerar informações falsas até 3% do tempo, levantando preocupações sobre a confiabilidade do conteúdo legislativo gerado por IA.

Implicações legais da lei criada por IA

O uso da IA, particularmente em contextos legais, provocou discussões sobre sua capacidade de compreender as nuances e complexidades inerentes à lei. O Dean Andrew Perlman da Suffolk University Law School alerta que, embora o ChatGPT possa significar uma mudança monumental, suas limitações se tornam evidentes em situações que exigem análise jurídica aprofundada. As possíveis deficiências da IA na interpretação de princípios legais e precedentes levantam preocupações sobre seu papel na moldagem do cenário jurídico.

Apesar da falta de transparência em torno da proposta criada por IA, o Conselheiro Rosario defende seu sigilo intencional. Ele afirma que revelar a origem da IA anteriormente poderia ter comprometido a aprovação do projeto. Rosario afirma ter inserido um prompt conciso no ChatGPT, recebendo um projeto de proposta completo em segundos, com justificativas. Seu motivo vai além de resolver um problema local, visando provocar um debate mais amplo sobre o uso ético da tecnologia na governança.

Inicialmente rotulando a legislação autorada por IA como um “precedente perigoso”, o Presidente do Conselho Hamilton Sossmeier mudou de perspectiva. Ao aprofundar-se no assunto, ele reconhece a inevitabilidade da IA influenciando os processos legislativos, chamando-a de “tendência”. O incidente em Porto Alegre provoca reflexões sobre a relação em evolução entre IA e governança, com o potencial de uma mudança de paradigma nas práticas legislativas.

A influência invisível da IA na legislação

Enquanto Porto Alegre lida com as consequências de uma lei criada por IA que passou despercebida pelo conselho, as implicações mais amplas de IA na legislação exigem escrutínio. O incidente levanta questões fundamentais sobre transparência, responsabilidade e o uso ético da tecnologia na formulação de políticas públicas. À medida que a sociedade navega por este território inexplorado, deve-se ponderar: Estamos preparados para um futuro onde a IA desempenha um papel crucial na elaboração de nossas leis, e como equilibramos a inovação com a salvaguarda da integridade de nossos processos democráticos?