지역 의원들은 인공지능이 만든 법안이 만장일치로 통과된 사실을 전혀 몰랐다

최근 브라질의 한 도시에서 뜻밖에도 인공지능(AI)이 직접 만든 법안이 통과되는 사건이 발생했습니다. 이는 브라질 최초의 AI 기반 법안으로 기록될 가능성이 있습니다. 라미로 로사리오 시의원은 동료 의원들의 동의 없이 오픈AI의 챗봇 '챗GPT'를 이용해 도난당한 수도 계량기 교체에 관한 법안을 작성했습니다. 이후 시의회에서 만장일치로 법안이 통과되면서 AI가 공공 정책 형성에 미치는 영향에 대한 논쟁이 촉발되었고, 이 신기술의 잠재력과 한계점이 동시에 드러나게 되었습니다.

인공지능이 작성한 법안 공개

10월, 브라질 남부 제2의 도시 포르투알레그레에서는 시의원들이 전혀 알지 못하는 사이에 인공지능(AI)이 작성한 법안이 조용히 통과되었습니다. 수도 계량기 도난 문제 해결을 위해 고심하던 라미로 로사리오 시의원은 챗GPT(ChatGPT)에 법안 초안 작성을 의뢰했습니다. 36명의 시의원들은 이 사실을 전혀 눈치채지 못한 채 만장일치로 법안을 통과시켰고, 이 법은 11월 23일부터 공식적으로 발효되었습니다.

1년 전 ChatGPT가 공공 영역에 등장하면서 AI 기반 챗봇의 혁신적인 잠재력에 대한 전 세계적인 논의가 시작되었습니다. 일부는 이를 입법 과정을 간소화하는 유망한 도구로 보고 있지만, 기계가 전통적으로 인간이 수행해 온 업무를 처리함으로써 발생할 수 있는 의도치 않은 결과에 대한 우려도 여전히 남아 있습니다. 포르투알레그레에서dent 사건은 공공 정책에서 AI의 양면성을 극명하게 보여주는 사례이며, 투명성과 책임성에 대한 의문을 제기합니다.

ChatGPT와 같은 대규모 언어 모델을 기반으로 하는 AI는 문장에서 다음에 나올 단어를 예측하는 방식으로 작동합니다. 그러나 이러한 모델은 허위 정보, 즉 환각 현상을 유발할 수 있기 때문에 이 과정은 완벽하지 않습니다. 기술 기업 Vectara의 연구에 따르면 GPT와 같은 고급 모델조차도 최대 3%의 확률로 허위 정보를 생성할 수 있다고 하며, 이는 AI가 생성한 법률 콘텐츠의 신뢰성에 대한 우려를 불러일으킵니다.

인공지능이 만든 법의 법적 함의

특히 법적 맥락에서 AI의 활용은 법률에 내재된 미묘한 차이와 복잡성을 이해하는 AI의 능력에 대한 논의를 촉발시켰습니다. 서퍽 대학교 법학대학원의 앤드류 펄먼 학장은 ChatGPT가 획기적인 변화를 의미할 수 있지만, 심층적인 법률 분석이 필요한 상황에서는 그 한계가dent 진다고 경고합니다. 법 원칙과dent 를 해석하는 데 있어 AI가 가질 수 있는 잠재적 단점은 법률 환경 형성에 있어 AI의 역할에 대한 우려를 불러일으킵니다.

인공지능이 작성한 제안서의 투명성 부족에도 불구하고, 로사리오 의원은 의도적인 비밀 유지를 옹호합니다. 그는 인공지능의 출처를 사전에 밝히면 프로젝트 승인에 차질이 생길 수 있다고 주장합니다. 로사리오 의원은 ChatGPT에 간단한 질문을 입력하자마자 몇 초 만에 근거까지 포함된 완전한 제안서 초안을 받았다고 말합니다. 그의 동기는 단순히 지역 문제를 해결하는 것을 넘어, 행정에서 기술의 윤리적 사용에 대한 더 폭넓은 논의를 촉발하는 데 있다고 합니다.

처음에 인공지능이 작성한 법안을 "위험한dent"라고 규정했던dent 소스마이어 시의회 의장은 관점을 바꿨습니다. 사안을 더 깊이 검토한 후, 그는 인공지능이 입법 과정에 영향을 미치는 것이 불가피하며 이를 "추세"라고 명명했습니다. 포르투알레그레에서dent 이 사건은 인공지능과 거버넌스 간의 진화하는 관계, 그리고 입법 관행의 패러다임 전환 가능성에 대한 성찰을 불러일으킵니다.

입법 과정에서 인공지능이 미치는 보이지 않는 영향

포르투 알레그레에서 인공지능(AI)으로 만들어진 법안이 의회를 은밀히 통과하는 사태가 발생하면서, AI를 활용한 입법 검토가 요구되고 있습니다. 이번 사건dent 투명성, 책임성, 그리고 공공 정책 수립에 있어 기술의 윤리적 사용에 대한 근본적인 질문을 제기합니다. 사회가 이러한 미지의 영역을 헤쳐나가는 과정에서 우리는 다음과 같은 질문을 던져야 합니다. AI가 법률 제정에 핵심적인 역할을 하는 미래에 우리는 대비하고 있는가? 그리고 혁신과 민주적 절차의 건전성 사이에서 어떻게 균형을 잡아야 하는가?