著名计算机科学家Yoshua Bengio关于提高AI安全的见解

Yoshua Bengio是一位杰出的计算机科学家，常被称为“AI教父”之一，最近分享了通过增加计算能力来提高人工智能（AI）安全的观点。在由AI安全学生团队和哈佛机器学习基础小组组织的网络研讨会中，Bengio讨论了AI快速发展的影响、AI安全的重要性以及对更安全的AI景观的建议。

本吉奥的背景

约书亚·本吉奥（Yoshua Bengio）是蒙特利尔大学教授、Mila-魁北克人工智能研究所的科学主管，因在深度学习领域的开创性工作而闻名。2018年，他与杰弗里·E·辛顿（Geoffrey E. Hinton）和杨立昆（Yann A. LeCun）共同获得了享有盛誉的计算机协会（Association for Computing Machinery）颁发的A.M.图灵奖，该奖项常被誉为“计算机界的诺贝尔奖”。

技术的双重用途性质

本吉奥在演讲开始时探讨了技术固有的双重性。他强调，虽然包括人工智能（AI）在内的技术可以被用于有益的目的，但也具有被恶意使用的潜力。技术越强大，人们对其实用双重性的担忧就越强烈。

他表达了对高度智能的AI代理可能带来重大风险的担忧，并强调必须对这类强大工具进行民主监督。本吉奥强调，在民主社会中，权力的集中应受到制衡，因为民主依赖于去中心化。

本吉奥的建议

本吉奥概述了他在7月份向美国参议院提出的三项关键建议，旨在解决AI安全及其对民主社会影响方面的挑战。

民主控制的监管

第一项建议强调在AI访问方面实施监管措施和界限的重要性。本吉奥认为，AI系统必须符合民主意愿，确保其行为符合既定的规范和价值观。监管框架将在防止AI技术被滥用方面发挥关键作用。

增加研究投资

本吉奥倡导政府和私营公司加大对AI安全研究的投入。他提议改变举证责任，建议公司在部署甚至开发AI系统之前，应证明其安全性。这种主动的安全方法有助于缓解AI技术普及带来的风险。

准备反制措施

尽管有监管和条约，本吉奥仍认识到存在危险且强大的AI实体的可能性，因此敦促各国政府准备反制措施。这些措施将作为防范不可预见的挑战和AI能力潜在滥用的保障。做好应对任何情况的准备对于维持AI安全至关重要。

开源软件与伦理问题

在其职业生涯中，本吉奥一直是开源软件的倡导者，开源软件允许协作查看、修改和分发源代码。他强调了开源软件的优势，特别是在加速开发和增强网络安全方面。它使宝贵工具的获取民主化，并促进了透明度。

然而，本吉奥也承认开源软件可能引发的伦理问题。决定是否将系统作为开源发布涉及权衡利弊的考量。谁应该做出这些决定——是公司还是政府？这一困境凸显了在AI领域制定伦理指南和负责任决策的必要性。

政府在理解和监管AI中的作用

本吉奥最后强调，政府必须加深对AI的理解，以有效监管其使用并确保民主决策。为了保持对AI及其影响的控制，政府需要具备理解、掌握甚至部署AI用于自身防御的能力。这种知识赋予政府就AI利用做出明智选择的能力，确保其与价值观和民主原则保持一致。

约书亚·本吉奥的见解揭示了AI安全、技术进步和民主治理之间的关键交汇点。他的建议包括监管、研究投资和反制措施，为应对日益强大的AI系统带来的挑战提供了一条路线图。随着AI继续塑造我们的世界，伦理决策和负责任的AI开发的重要性怎么强调都不为过。本吉奥的观点为在注重安全和民主的前提下驾驭不断演变的AI技术格局提供了宝贵的指导。