セレブラスはAI推論サービスを立ち上げてNvidiaに挑戦する

Cerebras Systemsは火曜日、開発者向けのAI推論ソリューションを発表しました。同社によると、このソリューションはNVIDIAの製品と比べて20倍も高速とのことです。.

Cerebrasは、AIアプリケーションの実行に自社の大型チップへのアクセスを提供します。同社によると、このチップはNVIDIAのGPUよりも安価です。業界標準のNVIDIA GPUは、ChatGPTのような大規模言語モデルの実行にクラウドサービスプロバイダー経由で利用されることが多く、多くの中小企業にとってアクセスが容易ではなく、費用も高額です。. 

セレブラスは、同社の新しいチップはGPUを超えるパフォーマンスを実現できると主張している。

AI推論とは、既に学習済みのAIモデルを操作して、チャットボットからの回答や様々なタスクの解決といった出力を得るプロセスです。推論サービスは、ユーザーの利便性向上のために日常的な運用に利用されており、今日のAIアプリケーションの基盤となっています。.

セレブラスは、推論がAI業界で最も急速に成長している分野であり、クラウドコンピューティングにおけるAI関連ワークロード全体の40%を占めていると述べた。セレブラスのCEO、アンドリュー・フェルドマン氏は、同社の大型チップはGPUを上回る性能を発揮すると述べた。GPUではこのレベルは達成できないとフェルドマン氏はロイター通信のインタビューで述べた。.

彼はこう付け加えた。

「私たちは最高の精度でそれを実現し、最低価格で提供しています。」出典 ロイター：

CEOは、既存のAI推論サービスはすべての顧客にとって満足のいくものではないと述べた。サンフランシスコで別の記者団に対し、より高速で費用対効果の高いソリューションへの「あらゆる関心が寄せられている」と語った。. 

これまで、NVIDIAは、ゴールドスタンダードのチップとCUDA（Compute Unified Device Architecture）プログラミング環境によってAIコンピューティング市場を支配してきました。これにより、NVIDIAは幅広いツールを提供することで、開発者を自社のエコシステムに閉じ込めることができました。.

CerbrasチップはNvidia H100 GPUの7000倍のメモリを搭載

セレブラスは、同社の高速推論サービスがAI業界の転換点となると述べた。同社の新型チップはディナープレートほどの大きさで、「ウエハースケールエンジン」と呼ばれる。1秒あたり1000トークンの処理能力があり、これはブロードバンドインターネットの導入に匹敵すると同社は述べている。.

同社によると、新しいチップは様々なAIモデルに対して異なる出力量を提供するという。Llama 3.1 8Bでは1秒あたり最大1800トークンを処理でき、Llama 3.1 70Bでは1秒あたり450トークンを処理できる。.

Cerebrasは推論サービスを100万トークンあたり10セントで提供しており、これはGPUベースのサービスよりも安価です。通常、他のアプローチではパフォーマンス向上のために精度が犠牲になるというのが業界の通説ですが、Cerebrasの新しいチップは精度を維持できると同社は主張しています。.

セレブラスは、AI推論製品を様々な形で提供すると発表した。同社は、クラウドと開発者キーを介した推論サービスを導入する予定だ。また、データセンターの顧客や自社システムを運用したい顧客にも、新チップを販売する予定だ。.

新しいウェハースケールエンジンチップは、独自の冷却モジュールと電力供給モジュールを内蔵しており、Cerebrasのデータセンターシステム「CS-3」の一部として提供されます。複数の 報道、Cerebras CS-3システムは同社の推論サービスの基盤となっています。 

このシステムは、Nvidia H100 GPUの7000倍のメモリ容量を誇ります。これにより、多くのチップメーカーが解決に取り組んでいるメモリ帯域幅の根本的な問題も解決されます。.

セルブラスは上場企業となるための準備も進めており、今月、米国証券取引委員会（SEC）にdentの目論見書を提出しました。.