人类研究所积极吸纳美国公众意见，为人工智能制定革命性宪法

在一项开创性的举措中，开发出广受欢迎的聊天机器人 Claude 的创新型人工智能初创公司 Anthropic 与集体智慧项目 (CIP) 展开合作，旨在汇集 1000 名美国公民的集体智慧，共同打造一部独特的“人工智能宪法”。这项大胆的尝试旨在揭示民主进程与人工智能发展之间错综复杂的关系，并将公众意见置于塑造人工智能技术伦理框架的核心位置。.

人类学的宪法和民主实验

安人智（Anthropic）公司以其宪法人工智能（CAI）方法而闻名，该方法利用规范性原则指导大型语言模型（LLM）。此次，该公司通过让美国公众参与实验，迈出了重要一步。安人智的宪法灵感来源于联合国《世界人权宣言》等全球公认的文件，通常用于指导其人工智能助手克劳德（Claude）的行为。该公司与CIP合作，利用旨在收集公众意见的平台Polis，就LLM聊天代理的规则征求意见。.

公开的章程揭示了其与Anthropic公司内部章程之间有趣的重叠和差异。虽然实验表明两者之间约有50%的契合度，但仍有一些原则脱颖而出。例如，公众偏好强调提供平衡客观信息的重要性，这体现了对残障人士的理解、适应性、可及性和灵活性的承诺。这些差异揭示了当民主理念与人工智能领域交汇时所产生的微妙视角。.

揭示公众意见动态和模型行为

本周，Anthropic 在其博客文章中不仅披露了根据公众意见制定的宪法，还展示了随后如何利用该宪法训练新的人工智能系统。实验揭示了公众偏好与 Anthropic 愿景相符的领域，以及存在偏差的领域。值得注意的是，公众在优先考虑集体福祉还是个人权利的问题上存在分歧，这凸显了人工智能领域伦理考量的复杂性。.

CIP对该实验进行了全面细致的评估，明确指出，公共模型在其多种表现形式中，针对各种刻板印象均表现出显著的偏见减少。值得注意的是，该模型在涵盖matic能力、自然语言理解以及善恶细微差别等复杂领域的评估中，其表现不仅与基准模型相当，在某些情况下甚至与之不相上下。. 

该组织在其审慎的阐述中，强调并突出了公众意见在人工智能行为的决定性配置中所起的关键和不可或缺的作用。它以毫不动摇的清晰度强调了这种意见的深远意义，因为它对人类活动的运作方式、沟通动态以及人际互动有着广泛而深远的影响。.

迈向人工智能宪法的民主历程

随着数字领域见证民主理念与技术进步的融合，Anthropic 的实验引发了关于人工智能伦理未来发展的关键问题。公众的集体智慧如何塑造 人工智能模型？这对不断演变的技术与社会关系又意味着什么？在寻求构建一部由多元视角共同塑造的人工智能宪章的过程中，Anthropic 的尝试促使我们思考人工智能发展民主化的更广泛意义。

在这片人工智能宪章成为协作努力的未知领域，Anthropic 实验不仅重塑了关于技术伦理的讨论，也促使我们思考公民在引导创新方向方面不断演变的角色。当我们探索民主与人工智能之间未知的交汇点时，一个问题始终萦绕在心头：人民的集体声音能否真正成为塑造我们数字未来的算法演进的指导力量？