シリコンバレーのテック巨人、製品利益のためにAI安全性を脇に置く

シリコンバレーは世界の最先端の人工知能専門家が革新的な研究を行う場所だったが、専門家は状況が変わったと警告しており、現在AIはすべて製品に関するものだと述べている。AI研究者や専門家はまた、OpenAIが2022年末にChatGPTをリリースして以来、テクノロジー業界は消費者対応のAI製品を構築することで、研究よりも商業化を優先してきたと信じている。

モーガン・スタンレーの分析担当者 予測 AI業界は2028年までに年間収益1兆ドルに達する可能性があると指摘した。業界専門家は、主要プレイヤーが人工一般知能（AGI）を追求する中で安全性を懸念していると述べた。

シリコンバレーが安全性よりも製品を優先する中、AI研究は利益回復へ

ジェフリー・ヒントン氏は、AI企業は計算リソースの3分の1を安全性の研究に使用するよう強制されるべきだと述べている。なぜなら、AIは今後20年以内に私たちよりも賢くなり、その時の結果について心配し始める必要があるからである pic.twitter.com/ocT3Scmyxg

— Tsarathustra (@tsarnick) 10月 25日、 2024

は、ChatGPTの無料プランの視聴者を週10億人以上のアクティブユーザーと見積もっており、広告モデルが無料版の運営を支えています。、2015年に非営利の研究ラボとして設立された同社は、CEOのSam Altman氏によると、現在、営利企業への変革に取り組んでいる。AI安全性に焦点を当てていたチームの元責任者であるJan Leike氏は昨年辞任し、過去数年間で 「安全性の文化とプロセスが、輝かしい製品に後回しにされてきた」と語った。

サイバーセキュリティスタートアップのCalypsoのCTOであるJames White氏は、テクノロジー企業がAIモデルを一般公開する前に厳密にテストする際に、より多くのショートカットを取っていると主張した。彼は、新しいAIモデルは品質（つまり、AIチャットボットによるより良い応答）のためにセキュリティを犠牲にしていると指摘した。 

「モデルは良くなっているが、同時に悪いことにも長けている可能性が高まっている。彼らを悪いことをさせるようにだますのは簡単だ。」

– James White、Calypso CTO

3月、Googleは は 最新のAIモデル「Gemini 2.5」をリリースし、それが同社の最も知的なAIモデルであると述べた。同社は数週間、Gemini 2.5のモデルカードをリリースしなかった。これは、AIモデルの動作方法や、リリース時の制限、潜在的な危険性に関する情報を共有しなかったことを意味する。

同社 氏は 4月2日、リリース前に最も高度なモデルを潜在的に危険な機能について評価していると発表した。Googleは後にブログ投稿を更新し、その言葉を省略した 「リリースに先立って。」

同社は4月16日に不完全なモデルカードを公開し、4月28日に更新しました。これはAIモデルのリリースから1ヶ月以上経ったことで、Gemini2.5の危険な機能評価に関する情報を含めるためでした。

AI技術企業が研究から収益を生む製品へシフト

Metaの元従業員たちは、Metaの副社長で同社のFAIR部門の責任者であるJoelle Pineauが、 。同社は、FRUTが人工知能のプラットフォームおよびハードウェア側面の「単一ティッカー表現」として機能すると信じています。これは単に、投資家が異なるチップメーカーやプラットフォーム名を混在させるのではなく、1つの製品でAIインフラストラクチャにアクセスできることを意味します。 先月、5月30日付で退任すると発表したことには驚いていませんでした。彼らはこれを、同社がAI研究から離れ、実用的な製品の開発を優先する動きを確固たるものにするものとして捉えていました。

Pineauは2023以来FAIRを率いており、従業員たちによると、 Meta, 小規模な研究チームが、結果が出るかどうかは不明な最先端技術のいくつかに取り組むことができました。このシフトは、2022年末に同社が2万1000人の従業員（労働力のほぼ4分の1）を削減したことに始まりました。事情に詳しい元従業員たちは、コスト削減策の一環として、FAIRの研究者が製品チームとより密接に連携するよう指示されたと語っています。

事情に詳しい2人の人物によると、今年初頭、FAIRのディレクターの一人であるKim Hazelwoodが、Metaの労働力5%削減計画の一環として同社を退社しました。これらの人物は、OpenAIによるChatGPTのローンチが、Metaに大規模言語モデル（LLM）へのリソース投入をより急ぐ緊迫感を生み出したと指摘しています。

これらの人物はまた、Metaの最高製品責任者であるChris Coxが、研究と製品志向のGenAIグループの間のギャップを埋めるためにFAIRを監督していると明らかにしました。彼らは、Coxの下でGenAIが、同社内での格上げされた地位により、FAIRからより多くのコンピューティングリソースとチームメンバーを吸い上げていると付け加えました。 

先月、Meta は は、開発者が同社のLlama 4 AIモデルでアプリを構築するためのセキュリティおよび安全ツールを発表しました。Metaは、これらのツールが、Llama 4が意図せず機密情報を漏洩したり、有害なコンテンツを生成したりする可能性を軽減するのに役立つと述べています。