抗议者集会反对OpenAI的军事联系和AGI开发

出于对关切的重大表达，周一晚上，数十名抗议者在旧金山的OpenAI办公室外聚集，反对该公司最近的政策变化及其与军事客户的合作。这次由Pause AI和No AGI组织的抗议活动旨在说服OpenAI工程师重新考虑他们在先进AI系统（包括备受争议的人工通用智能（AGI））方面的工作。

政策变化与军事参与引发争议

抗议活动的催化剂是OpenAI上个月决定从其使用政策中删除此前禁止将其AI技术用于军事目的的条款。政策变化后不久，有关OpenAI接受五角大楼为客户的报道引发了AI伦理倡导者的广泛辩论和担忧。

抗议者的信息很明确：OpenAI应停止开发可能导致AGI的AI技术，即机器可能超越人类智能的未来。此外，他们呼吁立即停止任何军事合作。这一立场因即将在纽约举行的AI影响之旅而得到放大，这是一项与微软的合作活动，旨在讨论AI风险与回报的平衡。

多元目标团结抗议者

尽管拥有共同的平台，但组织团体对成功的愿景略有不同。No AGI的Sam Kirchener强调追求AGI的危险，主张采用优先考虑人类智能的方法，如全脑仿真。相比之下，Pause AI的Holly Elmore呼吁在全球范围内暂停AGI开发，直到确保安全，并强调OpenAI切断其军事联系作为关键的伦理界限。

这一演示标志着关于AI开发伦理影响的持续讨论中的一个关键时刻。OpenAI取消了对军事使用的限制，并与五角大楼展开合作，引发了人们对AI技术军事化及其更广泛的社会影响的严重担忧。

关于AI未来和伦理边界的辩论

抗议者表达了对通用人工智能（AGI）可能从根本上改变社会结构、权力动态以及人类劳动所衍生的意义的深切恐惧。Kirchener认为，在一个机器完成所有人类任务的后AGI世界中，这种概念对社会凝聚力和个人目标构成了心理威胁。

Elmore向VentureBeat发表的评论强调了对AI公司内部自我监管的怀疑，指出OpenAI的政策反复证明了外部监管的必要性。OpenAI在关键问题（如高管问责制和使用政策）上的立场波动侵蚀了信任，并质疑如果内部政策不能切实限制公司行动，其有效性如何。

这次抗议凸显了对AI发展轨迹日益增长的不信任，特别是关于AGI和军事应用。Pause AI和No AGI都表明他们将继续倡导和抗议活动，旨在让更广泛的受众参与这些关键辩论。

随着硅谷在AI创新方面不断前进，抗议者的声音凸显了对AI开发采取平衡方法的紧迫性，这种方法需要考虑伦理影响、社会影响以及不受控的技术进步潜在风险。