硅谷科技巨头将AI安全置于产品收益之后

硅谷曾是世界上最领先的人工智能专家进行创新研究的地方，但专家警告说情况已经改变，现在AI完全是关于产品的。AI研究人员和专家还认为，自2022年底OpenAI发布ChatGPT以来，科技行业优先考虑商业化而非研究，通过构建面向消费者的AI产品。

摩根士丹利的分析师 预测 AI行业到2028年有望达到每年1万亿美元的年收入。行业专家表示，随着主要参与者追求通用人工智能（AGI），他们担心安全问题。

随着硅谷优先考虑产品而非安全，AI研究回归利润

杰弗里·辛顿表示，AI公司应被强制将其计算资源的三分之一用于安全研究，因为AI将在未来20年内变得比我们更聪明，我们需要开始担心那时会发生什么 pic.twitter.com/ocT3Scmyxg

— Tsarathustra (@tsarnick) 10月 25日, 2024

OpenAI，成立于2015年的非营利研究实验室，据其首席执行官Sam Altman称，目前正努力转型为营利性实体。OpenAI前对齐负责人Jan Leike去年辞职，他的团队专注于AI安全，并表示在过去几年中， “安全文化和流程已让位于光鲜的产品。”

网络安全初创公司Calypso的首席技术官James White认为，科技公司越来越在发布AI模型之前对其进行严格测试时走捷径。他指出，较新的AI模型牺牲了安全性以换取质量，即AI聊天机器人更好的响应。 

“模型变得更好了，但它们也更擅长做坏事。更容易欺骗它们去做坏事。”

—— Calypso首席技术官 James White。

3月，Google似乎在产品安全之前优先考虑其产品，因为它 发布了 其最新的AI模型Gemini 2.5，称其为该公司最智能的AI模型。该公司在数周内未能发布Gemini 2.5的模型卡，这意味着它在发布时没有分享有关AI模型如何工作或其局限性和潜在危险的信息。

该公司 承认 4月2日，它评估其最先进的模型是否存在潜在的危险能力，然后才发布。Google后来更新了博客文章，并省略了 “在其发布之前。”

该公司于4月16日发布了一份不完整的模型卡，并于4月28日更新，在AI模型发布一个多月后，包括有关Gemini2.5危险能力评估的信息。

AI科技公司从研究转向创收产品

前Meta员工表示，当Joelle Pineau，Meta副总裁兼公司FAIR部门负责人， 宣布 上个月宣布她将于5月30日离职时，他们并不感到惊讶。他们提到，他们认为这巩固了公司远离AI研究并转向优先考虑开发实用产品的举措。

Pineau自 2023 以来一直领导FAIR，根据 Meta的员工说法，小型研究团队可以从事各种前沿技术的研究，这些技术可能会成功也可能不会。当这家科技公司在2022年底裁员21,000名员工，即近四分之一的员工时，转变开始了。熟悉此事的前员工表示，FAIR研究人员被指示与产品团队更紧密地合作，作为削减成本措施的一部分。

两位熟悉此事的人士表示，今年早些时候，FAIR的一位主任Kim Hazelwood离开了公司，作为Meta削减5%员工计划的一部分。这些人指出，OpenAI发布ChatGPT在Meta内部创造了一种紧迫感，促使该公司将更多资源投入大型语言模型（LLM）。

这些人还透露，Meta首席产品官Chris Cox一直在监督FAIR，以弥合研究与以产品为重点的GenAI团队之间的差距。他们补充说，在Cox的领导下，GenAI已经从FAIR抽调了更多的计算机资源和团队成员，因为其在公司中的地位提升。 

上个月，Meta 发布了 为开发人员提供安全和安全工具，以使用公司的Llama 4 AI模型构建应用程序。Meta表示，这些工具有助于降低Llama 4意外泄露敏感信息或产生有害内容的风险。