Anthropic, 미국 대중의 참여를 통해 AI를 위한 혁신적인 헌법 수립

획기적인 이니셔티브로, 인기 있는 Claude 챗봇을 개발한 혁신적인 AI 스타트업인 Anthropic은 Collective Intelligence Project(CIP)와 협력하여 1,000명의 미국 시민의 집단적 지혜를 활용하여 독특한 'AI 헌법'을 형성하는 작업을 진행했습니다. 이 대담한 시도는 민주적 과정과 인공지능 개발 사이의 복잡한 관계를 규명하며, 대중의 참여를 AI 기술의 윤리적 경계를 형성하는 핵심에 위치시킵니다.

Anthropic의 헌법과 민주적 실험

규범적 원칙을 통해 대규모 언어 모델(LLM)을 안내하는 Constitutional AI(CAI) 방식으로 유명한 Anthropic은 이 실험에 미국 대중을 참여시킴으로써 중요한 도약을 이루었습니다. UN의 세계인권선언과 같이 전 세계적으로 인정받은 문서에서 영감을 받은 Anthropic의 헌법은 일반적으로 Claude의 행동을 안내합니다. 회사는 CIP와 협력하여 Polis라는 플랫폼을 사용하여 LLM 채팅 에이전트의 규칙에 대한 의견을 구했습니다.

대중으로부터 수집된 헌법은 Anthropic의 내부 헌법과 흥미로운 겹침과 차이를 보여주었습니다. 실험은 두 헌법 간에 약 50%의 수렴을 확인했지만, 특정 원칙들이 두드러졌습니다. 예를 들어, 대중의 선호도는 균형 잡히고 객관적인 정보 제공의 중요성을 강조했으며, 이는 이해, 적응력, 접근성 및 장애인을 위한 유연성에 대한 헌신을 반영합니다. 이러한 변형은 민주적 이상이 AI 세계와 교차할 때 나타나는 미묘한 관점을 드러냅니다.

대중 참여 역학 및 모델 행동 공개

Anthropic의 이번 주 블로그 게시물은 대중의 참여로 형성된 헌법뿐만 아니라 이에 대한 새로운 AI 시스템의 후속 교육도 공개했습니다. 이 실험은 대중의 선호도가 Anthropic의 비전과 일치하는 영역과 편차가 발생한 영역을 보여주었습니다. 특히, 집단적 복지를 개인 권리보다 우선시해야 한다는 주장과 그 반대의 주장이 충돌하는 것은 AI의 윤리적 고려 사항의 복잡성을 강조합니다.

CIP의 포괄적이고 세심한 실험 평가는 대중 모델이 다양한 고정관념의 배열에서 편견이 뚜렷하게 감소했음을 명확히 보여주었습니다. 특히, 해당 모델은 수학적 통찰력, 자연어 이해, 그리고 도움과 무해성의 미묘한 정도를 포괄하는 평가에서 베이스라인 모델과 비교 가능하거나 경우에 따라 동등한 성능을 보였습니다. 

이 조직은 신중하게 설명하며, AI 행동의 결정적 구성에서 대중의 참여가 수행한 중추적이고 필수적인 역할을 강조했습니다. 이러한 참여가 인간의 노력, 의사소통 역학, 그리고 광범위한 규모에서의 대인 상호작용에 미치는 심오하고 광범위한 영향에 대해 명확하게 강조하며, 그 중요성을 부각시켰습니다.

AI 헌법을 향한 민주적 여정

민주적 이상과 기술 발전의 수렴을 목격하는 디지털 풍경 속에서, Anthropic의 실험은 AI 윤리의 미래에 관한 중요한 질문을 제기합니다. AI 모델의 행동을 대중의 집단적 지혜가 어떻게 형성할 수 있으며, 이것이 기술과 사회 간의 진화하는 관계에 어떤 함의를 가지는가? 다양한 관점에 의해 형성되는 AI 헌법을 추구하는 과정에서, Anthropic의 시도는 인공지능 개발의 민주화가 가지는 더 넓은 함의에 대해 숙고하게 만듭니다.

AI 헌법이 협력적 노력으로 되는 이 미지의 영역에서, Anthropic의 실험은 기술 윤리에 대한 담론을 재형식할 뿐만 아니라 혁신의 방향을 주도하는 시민들의 진화하는 역할에 대해 숙고하도록 초대합니다. 민주주의와 인공지능의 미지의 교차점을 탐색하는 동안, 질문은 남아 있습니다. 사람들의 집단적 목소리가 디지털 미래를 형성하는 알고리즘적 진화의 진정한 가이드 역할을 할 수 있을까요?