次世代AIシステムは前例のないスケーラビリティを約束する

AI21のようなワンストップビジネスソリューションを推進し、生産性の点ですべての既知のワールドモデルを上回ることで、Jamboは生産グレードのMambaベースのメソッド上で利用可能な最初のモデルとなります。Mamba SSM技術と古いTransformerアーキテクチャの要素の統合により、Jambaはより大きな言語モデル（LLM）の設計における新しいビジョンを表しています。

LLMの革命

Jambaの登場は、LLMにおける時代の変化を示しており、通常のSSMとTransformerタイプのアーキテクチャの制約を効率的に処理します。最大256Kのコンテキストウィンドウサイズに進出することで、Jambaは異なるベンチマークで同様の領域にある他のモデルに対して大きな優位性を持っており、最高の効率性とパフォーマンスの測定基準として新しい基準を設定しています。

Jambaのアーキテクチャには、Transformer、Mamba、およびExperts of Mixture（MoE）のハイブリッドシステムとして機能する多くの側面があり、これらはシナジーを持って一緒に作用します。この統合は、大規模な言語タスクの主な焦点であるスループットとともにメモリ使用量の最適化を実装し、達成可能なパフォーマンスの限界を押し広げます。

スケーラビリティはJambaのDNAであり、1つのGPUのみで140K以上のコンテキストを処理できることを意味します。このスケーラビリティは、運用と関与を遠ざけ、学習と探求を支援し、新しい知識を生成し、AIコミュニティ内の革新を促進します。

マイルストーン達成

Jambaのロールアウトは、ゲームチェンジングな現象であるだけでなく、LLM研究の分野における先駆的な一歩でもあります。まず第一に、MambaとTransformerアーキテクチャを融合させ、両者が共生者のように連携して動作するようにし、その組み合わせが個々の部分よりも真に強力になるようにしました。さらに、テキストは、既存の他のSSM-Transformerの力と速度を組み合わせ、新しいコンテキストでより良く動作する能力を持つハイブリッドSSM-Transformerバージョンを導入しています。

しかし、AI21のプロダクトバイスであるDaganは、Jambaの混合アーキテクチャ構造を前面に押し出し、非常に印象的な表現をしました。彼は、Jambaの俊敏性が巨大なボリュームのユースケースの迅速な提供を可能にし、リアルタイムの高速性をサポートし、重要なユースケースのローンチを加速する方法を説明しました。

オープンソースコラボレーション

Apache 2.0ライセンスでのJambaのオープンウェイトリリースは、AI21がオープンソースコミュニティでこの種のコミッションを実装できることを意味します。AI21は、さらなる貢献とアイデアを奨励することで、新しい進歩が育まれる環境を提供することにコミットしています。

NVIDIA GPUパイプラインをNIM推論マイクロサービスとしてカプセル化することで、エンタープライズアプリケーションを強化するJambaのアクセシビリティが簡素化されます。人間化：摩擦のない統合により、ほぼすべての日常シナリオでJampaのアプリケーションを迅速かつ問題なくデプロイし、アップグレードすることができます。

AI21によるJambaのリリースは、企業AI分野における重要なマイルストーンを示しています。Jambaは、革新的なハイブリッドアーキテクチャ、比類のないスケーラビリティ、および卓越したモデル統合機能を提供することで、言語モデル業界を変革する準備ができています。したがって、顧客は以前よりも容易かつ迅速に困難な言語タスクを実行できるようになります。

AI21は、NVIDIAのような主要なAI企業とのオープンソースコラボレーションとビジネスパートナーシップも示しており、これは技術進歩のペースを加速し、さまざまな分野で高効率なAIソリューションの採用を増やすためのコミットメントをさらに示しています。

Jambaは、言語処理に関連するより広いAIランドスケープ内での地位を確保しており、その影響は従来の言語処理プラットフォームの範囲を超えて、AI駆動型ビジネスソリューションの新しい秩序をもたらすために感じられるでしょう。