アリババの新手法によりAI検索コストが約90%削減

アリババグループホールディングは、検索に特化した人工知能モデルのトレーニングコストを90％近く削減する方法を発見したと発表した。.

の中で 論文 、中国のテクノロジー企業の研究者たちは、「ZeroSearch」と呼ばれる、大規模な言語モデルの検索能力を低コストで向上させるトレーニング手法について説明している。

アリババは、このアプローチにより、強化学習における最もコストのかかるステップの 1 つである、有料のアプリケーション プログラミング インターフェイスを介した数万件のクエリのルーティングが不要になると主張している。.

ZeroSearchは、こうしたボトルネックを巧みに利用します。広範な知識ベースを既に備えた参照モデルが代替検索エンジンとして機能し、各クエリに対して有用な文書と意図的にノイズの多い文書の両方を生成します。そして、新しいモデルは、これらのノイズの多い文書を用いて学習されます。.

微調整は、分かりやすい言葉遣いの質問と明確な回答から始まります。時間の経過とともに、「カリキュラムの展開」によって、雑然とした表現、タイプミス、矛盾などが追加され、研修生モデルはよりオープンなインターネットに近い体験をします。.

論文によると、データノイズは推論能力を強化し、システムが乱雑なデータ環境でも生き残ることを学習させる。 「我々の重要な知見は、LLMが大規模な事前学習中に広範な世界知識を獲得し、検索クエリに基づいて関連文書を生成できる能力を持っているということだ」と研究者らは説明する。

チームは、クエリごとに外部プロバイダーに料金を支払う必要がなくなります。この変更は、リソースが限られている小規模チームにとって特に重要です。 例えば、API経由でGoogleに64,000件のクエリを送信すると、約586.70米ドルかかります。一方、140億個のパラメータを持つ AIモデル 費用は約70.80米ドルとなり、88%の節約になります。

AlibabaのZeroSearchは追加のハードウェアを必要としない

チームは、ZeroSearchは追加のハードウェア要件を追加しないと主張しています。標準的な教師あり微調整を採用しているため、クラウドコンピューティングのニーズは一般的な開発予算の範囲内に収まります。.

この論文はすでに機械学習の学術界で注目を集めています。業界関係者は、この節約が来年度以降の予算サイクルに影響を与える可能性があると指摘しています。.

業界のライバル各社は、新たな生成AI製品を推進する中で、大規模言語モデルのトレーニングにかかる​​コストを削減しようと競い合っている。.

アリババのこの新機能は、 中国企業がグーグルやオープンAIといった米国企業と競合する中で登場した。これらの企業はいずれもAIエージェントに多額の投資を行っている。アリババはコストを約10分の1に削減したと発表することで、AI検索のコスト構造が間もなく変化する可能性を示唆している。