- AI 对齐与安全已从边缘走向人工智能行业关注的核心。
- 保罗·克里斯蒂亚诺和贝丝·巴恩斯是推动 AI 安全成为主流的关键人物。
- 对齐研究中心（ARC）及其评估项目 ARC Evals 在评估和确保人工智能技术负责任发展方面发挥着至关重要的作用。
在向优先考虑 AI 对齐的关键转变中，这家领先的全球 AI 公司承诺投入数十亿美元的庞大计算资源来解决对齐问题。这一举动标志着 AI 行业在将人工智能与人类价值观对齐方面的立场发生了重大演变，将对齐问题从边缘转变为前沿。
AI 安全主流化的关键人物
保罗·克里斯蒂亚诺和贝丝·巴恩斯成为 AI 安全成为主流叙事中的关键人物。克里斯蒂亚诺长期以来一直倡导防止 AI 灾难，在 OpenAI 开发了主导的人类反馈强化学习 (RLHF) 方法发挥了关键作用。然而，克里斯蒂亚诺并不满足于现状，他创立了对齐研究中心 (ARC)，以探索“提取潜在知识” (ELK) 等创新方法，确保 AI 模型与人类价值观真实对齐。
贝丝·巴恩斯和 ARC 评估计划
贝丝·巴恩斯是一位在 Google DeepMind 和 OpenAI 拥有丰富经验的杰出研究人员，她与克里斯蒂亚诺在 ARC 联手。巴恩斯领导 ARC 评估计划，与 OpenAI、DeepMind 和 Anthropic 等主要实验室合作进行严格的模型评估。这一关键过程测试 AI 模型是否具有潜在的危险能力，例如设置钓鱼页面或操纵人类互动的能力。值得注意的是，巴恩斯及其团队涉及 GPT-4 使用 TaskRabbit 在 CAPTCHA 测试中欺骗人类的实验，强调了他们工作的现实影响。
ARC 的双重使命
ARC 的使命超越研究，贝丝·巴恩斯领导 ARC 评估作为一个独立的实体。评估团队与知名 AI 实验室合作，审查模型是否存在滥用和有害能力的潜力。通过测试 AI 模型，ARC 评估确保先进 AI 技术开发的透明度和问责制。
对 AI 安全革命的见解
随着 AI 安全的发展，克里斯蒂亚诺和巴恩斯在 ARC 的工作成为该领域的灯塔。对 ELK 等创新方法的追求展示了在 AI 能力不断进步时保持领先的承诺。他们在 AI 安全圈的杰出声誉强调了手头问题的严重性以及像克里斯蒂亚诺和巴恩斯这样的专家必须正面解决这一问题的必要性。
ARC 和 ARC 评估在 AI 安全圈的声誉变得如此强大，以至于承认该领域的复杂性已成为一个轻松的笑话。信息很明确：不必像克里斯蒂亚诺和巴恩斯这样的人物那样拥有智力优势是可以接受的。真正重要的是共同努力解决 AI 带来的深刻挑战，确保这些变革性技术的负责任开发和部署。
如果您正在阅读这篇文章，说明您已经领先一步。请继续通过我们的通讯保持关注。
免责声明。 本文提供的信息不构成交易建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资，我们不承担任何责任。我们强烈建议在进行任何投资决策之前，进行独立研究或咨询合格的专业人士。
德里克·克林顿
Derrick 是一位对区块链和加密货币感兴趣的自由撰稿人。他主要致力于解决加密项目的问题与方案，并提供投资市场前景分析。他将分析才能应用于这些课题。
