AI 제작 법률이 만장일치로 통과되는 동안 지역 의원들은 무지

최근 입법 과정의 반전으로, 브라질의 한 도시는 국가 최초의 AI 제작 법률의 무대가 될 수 있는 무대를 unwittingly 제공했습니다. 의원 라미로 로사리는 동료들의 지식 없이 OpenAI의 챗봇 ChatGPT를 사용하여 도난당한 수도 미터 교체 문제를 다루는 제안서를 작성했습니다. 이어진 의회의 만장일치 승인은 공공 정책 형성에서 AI의 역할에 대한 논쟁을 촉발시켰으며, 이 신흥 기술의 잠재력과 함정을 모두 드러냈습니다.

AI 저자 입법의 공개

10월, 브라질 남부 두 번째로 큰 도시인 포르투 알레그레는 의원들이 알지 못한 채 AI가 완전히 작성한 법률이 조용히 통과되는 것을 목격했습니다. 도난당한 수도 미터 문제를 해결하기 위해 라미로 로사리 의사는 ChatGPT를 사용하여 제안서를 생성했습니다. 36명으로 구성된 무지한 의회는 만장일치로 이 법안을 승인했으며, 법률은 11월 23일 공식적으로 발효되었습니다.

1년 전 공공 영역에 ChatGPT가 등장하면서 AI 기반 챗봇의 변혁적 잠재력에 대한 글로벌 대화가 시작되었습니다. 일부는 이를 입법 과정을 간소화하기 위한 유망한 도구로 보지만, 기계가 전통적으로 인간이 수행해 온 작업을 처리하는 것의 의도하지 않은 결과에 대한 우려가 남아 있습니다. 포르투 알레그레의 사건은 공공 정책에서 AI의 양면성에 대한 stark한 예시이며, 투명성과 책임성에 대한 질문을 제기합니다.

ChatGPT와 같은 대규모 언어 모델에 의해 구동되는 AI는 문장에서 다음 단어를 예측하는 방식으로 작동합니다. 그러나 이러한 모델은 환각(hallucination)으로 알려진 현상인 잘못된 정보를 도입할 수 있으므로 이 과정은 완벽하지 않습니다. 기술 회사 Vectara의 연구에 따르면 GPT와 같은 고급 모델조차도 최대 3%의 시간 동안 잘못된 정보를 생성할 수 있어 AI 생성 입법 내용의 신뢰성에 대한 우려를 제기합니다.

AI 제작 법률의 법적 함의

특히 법적 맥락에서 AI의 사용은 법의 고유한 뉘앙스와 복잡성을 이해하는 AI의 능력에 대한 논의를 촉발시켰습니다. 서퍽 대학교 로스쿨의 앤드루 펄먼 학장은 ChatGPT가 중대한 변화를 의미할 수 있지만, 심층적인 법적 분석이 필요한 상황에서 그 한계가 분명해진다고 경고합니다. 법적 원칙과 선례를 해석하는 AI의 잠재적 결함은 법적 풍경 형성에서 그 역할에 대한 우려를 제기합니다.

AI 제작 제안의 투명성 부족에도 불구하고, 로사리 의원은 의도적인 비밀 유지에 대해 변호합니다. 그는 AI 출처를 사전에 공개했다면 프로젝트의 승치가 위태로워졌을 것이라고 주장합니다. 로사리는 ChatGPT에 간결한 프롬프트를 입력하여 몇 초 만에 정당화 사항이 포함된 전체 초안 제안서를 받았다고 주장합니다. 그의 동기는 지역 문제를 해결하는 것을 넘어 거버넌스에서 기술의 윤리적 사용에 대한 더 넓은 논쟁을 촉발시키는 데 있습니다.

처음에는 AI가 작성한 입법안을 "위험한 선례"로 규정했던 해밀턴 소스마이어 시의장은 시각을 바꾸었습니다. 사안을 더 깊이 파고든 결과, 입법 과정에 AI가 영향을 미치는 것은 불가피하다는 점을 인정하며 이를 "트렌드"라고 불렀습니다. 포르투알레그레의 사건은 AI와 거버넌스의 진화하는 관계를 성찰하게 하며, 입법 관행의 패러다임 전환 가능성을 시사합니다.

입법 과정에 보이지 않는 AI의 영향

포르투 알레그리가 의회에서 눈치채지 못한 채 통과된 AI 제작 법률의 여파와 씨름하는 가운데, 입법에서의 AI의 더 넓은 함의가 심층 검토를 요구합니다. 이 사건은 투명성, 책임성 및 공공 정책을 형성하는 데 있어 기술의 윤리적 사용에 대한 근본적인 질문을 제기합니다. 사회가 이 미지의 영역을 탐색하는 동안, 우리는 법률을 작성하는 데 있어 AI가 중추적인 역할을 하는 미래에 준비되어 있는가, 그리고 혁신과 민주적 과정의 무결성 보호 사이의 균형을 어떻게 맞출 것인가를 숙고해야 합니다.