앤스로픽, 인공지능을 위한 혁명적인 헌법 제정을 위해 미국 대중의 의견 수렴에 나서다

인기 챗봇 클로드를 개발한 혁신적인 AI 스타트업 앤스로픽(Anthropic)은 획기적인 시도로 집단지능프로젝트(CIP)와 협력하여 미국 시민 1,000명의 집단지성을 활용해 독창적인 "AI 헌법"을 만들고자 합니다. 이 대담한 프로젝트는 민주적 절차와 인공지능 개발 간의 복잡한 관계를 규명하고, AI 기술의 윤리적 방향을 설정하는 데 있어 시민의 의견을 핵심으로 삼고자 합니다.

인류학의 헌법과 민주적 실험

규범적 원칙을 바탕으로 대규모 언어 모델(LLM)을 구동하는 헌법적 AI(CAI) 방식으로 잘 알려진 앤트로픽은 이번 실험에 미국 대중을 참여시킴으로써 중요한 도약을 이루었습니다. 유엔의 세계인권선언과 같은 세계적으로 인정받는 문서에서 영감을 받은 앤트로픽의 헌법은 일반적으로 클로드의 행동 방침을 안내합니다. 앤트로픽은 CIP와 협력하여 여론 수렴 플랫폼인 폴리스(Polis)를 활용해 LLM 챗봇의 규칙에 대한 의견을 구했습니다.

공개적으로 수집한 헌법은 앤스로픽의 내부 헌법과 흥미로운 공통점과 차이점을 드러냈습니다. 실험 결과 두 헌법은 약 50% 정도 일치하는 것으로 나타났지만, 특정 원칙들이 두드러졌습니다. 예를 들어, 공개된 의견들은 균형 있고 객관적인 정보 제공의 중요성을 강조했는데, 이는 장애가 있는 사람들을 위한 이해, 적응성, 접근성 및 유연성에 대한 헌신을 반영합니다. 이러한 차이점은 민주적 이상이 인공지능의 세계와 만날 때 나타나는 미묘한 관점들을 보여줍니다.

대중 참여 동향 및 모델 동작 분석

이번 주 앤트로픽의 블로그 게시물은 대중의 의견을 반영하여 만들어진 헌법뿐만 아니라, 이를 바탕으로 새로운 AI 시스템을 훈련시킨 과정까지 공개했습니다. 이 실험을 통해 대중의 선호도가 앤트로픽의 비전과 일치하는 부분과 차이가 발생하는 부분을 확인할 수 있었습니다. 특히, 집단 복지를 개인의 권리보다 우선시해야 하는지에 대한 상반된 의견들은 AI 윤리 문제의 복잡성을 부각시켰습니다.

CIP의 포괄적이고 면밀한 실험 평가 결과, 다양한 형태로 나타나는 공개 모델이 여러 고정관념에 걸쳐 편견을 뚜렷하게 감소시켰다는 점이 명확하게 드러났습니다. 특히, 해당 모델은matic능력, 자연어 이해, 그리고 도움과 무해함의 미묘한 차이 등 복잡한 영역을 아우르는 평가에서 기준 모델과 유사할 뿐만 아니라, 어떤 경우에는 동등한 수준의 성능을 보였습니다. 

해당 단체는 신중한 설명을 통해 인공지능 행동의 결정적 구성을 위해 대중의 의견이 수행하는 중추적이고 필수적인 역할을 강조했습니다. 또한, 이러한 의견이 인간 활동 방식, 소통 역학, 그리고 인간관계 전반에 걸쳐 심오하고 광범위한 영향을 미친다는 점을 확고하게 강조했습니다.

인공지능을 위한 헌법을 향한 민주적 여정

디지털 환경이 민주적 이상과 기술 발전의 융합을 목격하는 가운데, 앤트로픽의 실험은 인공지능 윤리의 미래에 대한 중요한 질문을 제기합니다. 대중의 집단 지혜는 어떻게 인공지능 모델있으며, 이는 기술과 사회의 진화하는 관계에 어떤 함의를 지닐까요? 다양한 관점에 의해 형성된 인공지능 헌법을 추구하는 과정에서, 앤트로픽의 시도는 인공지능 개발의 민주화가 갖는 더 넓은 의미를 숙고하게 합니다.

인공지능의 헌법이 협력적인 노력으로 만들어지는 이 미지의 영역에서, 인류학적 실험은 기술 윤리에 대한 담론을 재구성할 뿐만 아니라 혁신의 방향을 제시하는 시민의 진화하는 역할에 대해 숙고하도록 이끈다. 민주주의와 인공지능이라는 미지의 교차점을 탐색하는 지금, 다음과 같은 질문이 남는다. 과연 시민들의 집단적인 목소리가 우리의 디지털 미래를 형성하는 알고리즘 진화의 진정한 주도적인 힘이 될 수 있을까?