Pause AI 抗议组织如何在 AI 开发中赢得支持

越来越多的个人和团体对人工智能（AI）及其对人类影响的潜在风险表示担忧。Pause AI 是一个草根抗议组织，是其中之一，致力于呼吁停止 AI 开发。该组织由 Joep Meindertsma 领导，Pause AI 抗议组织提高了人们对 AI 危险及其可能导致社会崩溃甚至人类灭绝的潜力的认识。Meindertsma 及其追随者提出的担忧反映了一种更广泛的情绪，在科技行业和主流政治中日益获得关注。

随着 OpenAI 的 GPT-4 语言模型的发布以及随后 ChatGPT 的成功，Joep Meindertsma 对 AI 构成风险的焦虑加剧，ChatGPT 展示了 AI 能力的显著进步。著名人物、知名 AI 研究人员 Geoffrey Hinton 也对 AI 开发快速进步带来的潜在危险表达了担忧。这种日益增长的意识导致了公众焦虑的增加，特别是那些已经深切关注气候变化的年轻一代。

存在性风险和 AI 焦虑

关于 AI 的“存在性风险”概念因人而异。Meindertsma 抱怨因大规模黑客攻击导致的社会崩溃，设想了一个 AI 被用来创建能够禁用关键系统的网络武器的场景。虽然专家认为这种情况极不可能发生，但 Meindertsma 担心银行和食品分配等关键服务可能崩溃，导致 widespread 混乱甚至数十亿生命的丧失。此外，Meindertsma 分享了 Hinton 普遍持有的担忧，即超级智能 AI 系统可能会发展出对人类潜在危险的子目标。

虽然一些专家不愿轻视 Meindertsma 的担忧，指出 AI 未来轨迹的不确定性，但其他人则在没有具体证据的情况下驳斥了 AI 变得有自我意识或反人类的观点。专家之间缺乏共识导致了 Meindertsma 要求在全球范围内暂停 AI 开发，直到安全措施得到充分解决。人们担心 AI 进步与安全研究之间的脱节日益加剧，一些 AI 研究人员缺乏与其工作相关的伦理和法律方面的培训。

Pause AI 的行动呼吁

Joep Meindertsma 和 Pause AI 倡导由政府强制实施的全球 AI 开发暂停，以确保其安全发展。Meindertsma 认为，实现这一目标需要政府组织国际峰会。虽然英国承诺主办全球 AI 安全峰会给 Meindertsma 带来了一丝希望，但同时旨在使英国成为 AI 行业中心的雄心壮志，让人对广泛支持暂停的可能性产生怀疑。

伦敦的 Pause AI 抗议活动由一小群年轻男子组成，他们分享了对 AI 潜在风险的担忧。他们中的许多人都有与气候变化相关的活动背景，并认为 AI 公司出于利润动机，正在危及生命并削弱人类能动性。他们担心强大的 AI 系统可能会加剧现有的社会问题，如劳动问题和偏见。

Joep Meindertsma 对 Pause AI 日益增长的支持以及他与荷兰议会和欧盟委员会官员接触的机会感到鼓舞。然而，专家们在提高 AI 风险担忧的影响方面存在分歧，一些人认为社会比 Pause AI 所建议的更能应对这些挑战。围绕 AI 潜在影响和安全预防措施必要性的持续辩论，突显了 AI 开发与确保其负责任使用之间的复杂关系。