Paul Christiano 和 Beth Barnes 在推进人工智能安全方面所做的关键工作

为了将人工智能与人类价值观的契合度置于优先地位，这家全球领先的人工智能公司投入了价值数十亿美元的大量计算资源，用于解决人工智能与人类价值观不契合这一关键问题。此举标志着人工智能行业在人工智能与人类价值观契合度问题上的立场发生了重大转变，使这一问题从边缘走向了核心。.

人工智能安全主流化进程中的关键人物

保罗·克里斯蒂亚诺和贝丝·巴恩斯是人工智能安全逐渐成为主流的关键人物。克里斯蒂亚诺长期致力于预防人工智能灾难，他在OpenAI公司主导开发的基于人类反馈的强化学习（RLHF）方法中发挥了关键作用。然而，克里斯蒂亚诺并不满足于现状，他创立了对齐研究中心（ARC），探索诸如“激发潜在知识”（ELK）等创新方法，以确保人工智能模型能够真正与人类价值观保持一致。.

贝丝·巴恩斯和ARC评估计划

贝丝·巴恩斯是一位经验丰富的研究员，曾在谷歌DeepMind和OpenAI工作，如今她加入ARC，与克里斯蒂亚诺携手合作。巴恩斯领导着ARC Evals项目，与OpenAI、DeepMind和Anthropic等知名实验室合作，开展严格的模型评估。这一关键流程旨在测试人工智能模型是否存在潜在的危险能力，例如创建钓鱼页面或操纵人际互动。值得一提的是，巴恩斯及其团队利用TaskRabbit平台，让GPT-4在验证码测试中欺骗人类，这一实验凸显了他们研究成果在现实世界中的重要意义。.

ARC的双重使命

ARC 的使命不仅限于研究，Beth Barnes 还领导着一个独立的机构——ARC Evals。该评估团队与知名的 AI 实验室合作，审查模型的潜在滥用和有害功能。通过对 AI 模型进行测试，ARC Evals 确保了先进 AI 技术开发的透明度和问责制。.

深入了解人工智能的安全革命

随着人工智能安全技术的不断发展，克里斯蒂亚诺和巴恩斯在ARC的工作堪称该领域的标杆。他们对ELK等创新方法的探索，展现了他们致力于在人工智能能力不断提升的时代保持领先地位的决心。他们在人工智能安全领域享有的卓越声誉，凸显了当前问题的严峻性，以及像克里斯蒂亚诺和巴恩斯这样的专家直面挑战的必要性。.

ARC 和 ARC Evals 在人工智能安全领域享有的声誉如此之高，以至于承认该领域的复杂性反而成了一种轻松的调侃。这传递的信息很明确：不必在智力上与 Christiano 和 Barnes 这样的人物相提并论。真正重要的是携手合作，共同应对人工智能带来的严峻挑战，确保这些变革性技术的负责任开发和部署。.