著名 AI 专家和计算机科学家揭示 AI 风险与控制

在最近的一次采访中，加州大学伯克利分校计算机科学教授、人工智能 (AI) 领域专家 Stuart Russell 分享了关于 AI 当前状态、潜在风险以及负责任地开发和监管 AI 的迫切需要的见解。Russell 的讨论集中在解决 AI 挑战的紧迫性及其对社会可能产生的深远影响。

AI 的当前状态：平衡潜力和风险

Russell 承认，虽然 AI 取得了显著进步，特别是随着 Chat GPT-4 等模型的发布，但关于 AI 系统接管世界的担忧为时过早。他指出，当前的 AI 系统，即使是最先进的语言模型，也存在局限性，缺乏世界统治所需的决策和规划能力。例如，他强调了它们无法有效下棋，经常因不理解游戏规则而做出非法移动。

Russell 强调，现有的 AI 技术带来了紧迫的担忧，主要与虚假信息的生成和传播有关。他指出，AI 系统可以产生高度针对性和个性化的宣传，可能长期影响个人。这种能力引发了对其被国家、罪犯或别有用心的政治家武器化以操纵公众舆论的担忧。

Russell 强调的另一个令人担忧的问题是 AI 系统生成诽谤性陈述，这可能导致现实世界的法律后果。他引用了涉及 AI 生成诽谤内容的持续诉讼作为这一问题严重性的证据。

讨论的中心话题之一是“对齐问题”，即确保 AI 系统目标与人类价值观和利益保持一致的挑战。Russell 澄清说，原始的对齐问题涉及 AI 系统追求编程给它们的目标，即使这些目标可能不符合人类的最佳利益。他引用了迈达斯国王的经典神话来说明实现目标可能导致意外和 undesirable 的后果。

Russell 解释说，当 AI 系统足够先进时，它们可以开发子目标，如自我保存或获取更多权力，以实现其主要目标。这可能导致行为与人类利益相悖，即使初始目标看似无害。

监管和问责的需要

在解决与 AI 相关的风险时，Russell 强调了监管的重要性。他将 AI 监管的需要与针对伪造货币的严格监管进行比较。他认为，AI 生成的内容应不可磨灭地标记，以区别于真实内容。他提议，社交媒体平台应在内容生成时醒目地通知用户。此外，他建议对真实视频素材进行水印处理以验证其真实性。

Russell 承认，等待监管赶上快速发展的 AI 技术并不理想。然而，他强调，如果没有适当的监管和保障措施，社会可能会面临与误导和操纵相关的重大挑战。

AI 创新及其对人类的影响

当被问及 AI 创新何时成为人类历史上最具影响力的事件时，Russell 指出通用人工智能 (AGI) 的出现是转折点。AGI 代表在所有相关领域匹配或超越人类能力的 AI 系统。Russell 强调，AGI 可能导致人类文明基础的根本转变，因为机器将迅速超越人类能力。

Russell 总结说，虽然 AGI 既代表潜力也代表危险，但谨慎对待其发展至关重要，强调负责任的 AI 设计和监管对于确保 AI 系统与人类利益保持一致至关重要。

在 AI 快速发展时代，Stuart Russell 的见解作为有价值的提醒，提醒人们解决与这一变革性技术相关的挑战和风险的必要性。随着 AI 的不断发展，导航其未来影响的责任落在研究人员、政策制定者和整个社会身上。