次世代モデルへの期待高まる中、DeepSeekが新たなAI推論手法を発表

中国の人工知能（AI）スタートアップ、DeepSeekは、市場が次世代モデルのリリースを待ち望む中、新たな推論手法を発表した。報道によると、同社は直近、大規模言語モデル（LLM）の推論能力を向上させる革新的なアプローチを導入した。一般ユーザーは新モデルのリリースを待っている。

レポートによると、最近発表された論文により、この成果が清華大学の研究者とAIスタートアップの協力によって達成されたことが明らかになりました。論文によると、DeepSeekは、生成報酬モデリング（GRM）と自己原理調整と呼ばれる手法を組み合わせた技術を開発できました。この二重のアプローチにより、LLMは一般的なクエリに対してより良く、より迅速な結果を提供できるようになります。

DeepSeekが新たなAI推論手法を公開

研究者らによると、生成されたDeepSeek-GRMモデルは既存の手法を上回り、強力な公開報酬モデルと競合するパフォーマンスを達成した。報酬モデリングは、LLMが人間の好みを判断するのに役立つプロセスである。研究者らは、AIスタートアップがGRMモデルをオープンソース化する意向であることを明かしたが、開発のタイムラインについてはまだ明らかにしていない。

今回の学術論文の発表は、DeepSeek V3基盤モデルやR1推論モデルで世界的な注目を集めた後、同スタートアップの次の動きに関する憶測が高まった直後のものである。当時、今年初めにリリースされたR1モデルは、OpenAIの初代ChatGPTモデルを含むいくつかの旧モデルを上回るパフォーマンスを示したことが発見され、注目を集めた。

R1モデルのリリースは、このモデルがオープンソースであり、他のAIモデルと比較して極めて低いコストで完成したという事実を考慮すると、シリコンバレーを驚かせた。注目が鈍化しているように見える一方で、AI業界の競合他社間で顕著な進歩が見られ、この分野の競争は歴史的なものであることが示されている。

しかし、先月のロイター通信の報道によると、世界的に称賛されたR1の後継であるDeepSeek-2が現在開発中かもしれない。報道によれば、同社はAI業界での評判の高まりを活用するため、今月末頃にリリースする可能性がある。一方、DeepSeekはR2モデルについて口を閉ざしており、公式な公開チャネルでは沈黙を守っている。報道によると、顧客サービス担当者はビジネスクライアントに対して、この噂を否定している。

V3モデルの開発は継続中

杭州に拠点を置くDeepSeekは、起業家の梁文峰氏によって2023年に設立され、過去数ヶ月間、適切な理由で世界的な注目を集めてきた。しかし、同社は公的なコミュニケーションを拒否し、すべての時間とエネルギーを研究開発に注ぐことを決定した。同社がAI業界にもたらすものがどうなるかはまだ不明だが、噂のおかげで確実に準備を進めている。

先月、同社は長年取り組んできた開発を発表し、アップグレードされたV3モデル「DeepSeek-V3-0324」を世界に公開した。同社によると、アップグレードされたモデルは「強化された推論能力、最適化されたフロントエンドWeb開発、向上した中国語の文章作成能力」を提供する。2月には、同社が5つのコードリポジトリを外部公開し、開発者がソフトウェア開発のレビューや貢献を行えるようにした。スタートアップは、「完全な透明性をもって誠実な進歩を遂げる」と述べている。

同月、梁氏はLLMが大量のデータを処理する際の効率を向上させる手法であるネイティブ・スパース・アテンションに関する技術論文を発表した。40歳の梁氏はまた、AIスタートアップの技術的進歩を資金面で支えてきたヘッジファンド、ハイフライヤー・クォント（High-Flyer Quant）の親会社であるDeepSeekの創設者でもある。2月下旬、起業家は中国の習近平国家主席が主催した、テック起業家を集めたシンポジウムに参加した。主席は、米国が中国のAI進出を封じ込めようとする動きに対し、このスタートアップが国のレジリエンス（回復力）の象徴であると称賛した。