シリコンバレーのテック大手は製品利益のためにAIの安全性を脇に置いた

シリコンバレーはかつて、世界をリードする人工知能（AI）の専門家たちが革新的な研究を行う場所でしたが、専門家たちは状況の変化を警告し、AIは今や製品そのものに焦点が当てられています。AI研究者や専門家はまた、OpenAIが2022年後半にChatGPTをリリースして以来、テクノロジー業界は研究よりも商業化を優先し、消費者向けのAI製品を開発していると考えています。.

モルガン・スタンレーのアナリストは 予測している 。業界専門家は、主要企業が汎用人工知能（AGI）の開発を追求する中で、安全性について懸念を表明している。

シリコンバレーが安全よりも製品を優先するにつれ、AI研究は利益へと回帰する

ジェフリー・ヒントン氏は、AI企業はコンピューティングリソースの3分の1を安全性研究に使うよう強制されるべきだと述べている。なぜなら、AIは今後20年で人間よりも賢くなり、その時何が起こるかを心配し始める必要があるからだ 。pic.twitter.com/ocT3Scmyxg

— ツァラトゥストラ (@tsarnick) 2024 年 10 月 25 日

OpenAIは、現在、営利企業への転換を目指していると、CEOのサム・アルトマン氏が述べている。OpenAIの元アライメント責任者で、AIの安全性に重点を置いたチームを率いていたヤン・ライケ氏は昨年辞任し、ここ数年、 「安全文化やプロセスは、魅力的な製品開発の陰に隠れてしまっていた」と語った。

サイバーセキュリティのスタートアップ企業Calypsoの最高技術責任者（CTO）であるジェームズ・ホワイト氏は、テクノロジー企業がAIモデルを一般公開する前に厳密なテストを行う際に、ますます多くの省略を行っていると主張した。ホワイト氏は、新しいAIモデルは品質、つまりAIチャットボットの応答品質のためにセキュリティを犠牲にしていると指摘した。. 

「モデルはどんどん進化していますが、同時に悪質な行為にも長けている可能性も高まっています。悪質な行為をするように仕向けるのは容易になっているのです。」

– Calypso の最高技術責任者、James White 氏。.

3月、Googleは を発表し 、同社史上最も高度なAIモデルだと謳ったものの、安全性よりも製品を優先しているように見えた。同社はGemini 2.5のモデルカードを数週間公開しなかったため、AIモデルの仕組みや限界、潜在的な危険性に関する情報を、発表時に一切開示しなかった。

同社は 認めた 4月2日、最先端モデルを発売前に潜在的に危険な機能がないか評価していることを 「発売前に」という文言を削除した。

同社は4月16日に未完成のモデルカードを公開し、AIモデルのリリースから1か月以上経った4月28日にGemini2.5の危険能力評価に関する情報を含めるように更新した。.

AIテクノロジー企業は研究から収益を生み出す製品へとシフトしている

Metaの元従業員たちは、Metaの副社長dent FAIR部門の責任者だった 発表した ことに驚きはなかったと語った。彼らは、この退任は同社がAI研究から撤退し、実用的な製品開発を優先する方向へと舵を切ったことを示すものだと考えていると述べた。

ピノー氏は2023年からFAIRを率いており、 Meta、小規模な研究チームが様々な最先端技術に取り組む可能性があり、その成果が期待通りに現れるかどうかは定かではないという。この変化は、同社が2022年末に従業員の約4分の1にあたる2万1000人を解雇したことから始まった。事情に詳しい元従業員によると、FAIRの研究者はコスト削減策の一環として、製品チームとより緊密に連携するよう指示されたという。

事情に詳しい2人の関係者によると、今年初め、Meta社が従業員5%を削減する計画の一環として、FAIRの取締役の1人であるキム・ヘイゼルウッド氏が同社を去ったという。関係者は、OpenAIによるChatGPTのリリースにより、Meta社は大規模言語モデル（LLM）へのリソース投入を急務とするようになったと指摘した。.

関係者らはまた、Meta社の最高製品責任者であるクリス・コックス氏が、研究と製品に重点を置くGenAIグループ間の溝を埋めるためにFAIRを監督していることを明らかにした。さらに、コックス氏の指揮下にあるGenAIは、社内での地位向上に伴い、FAIRからより多くのコンピュータリソースとチームメンバーを流出させていると付け加えた。. 

先月、Metaは をリリースした 。Metaによると、これらのツールは、Llama 4が意図せず機密情報を漏洩したり、有害なコンテンツを生成したりする可能性を軽減するのに役立つという。