Cerebras、AI推論サービスの立ち上げでNvidiaに挑戦

Cerebras Systemsは火曜日、開発者向けにAI推論ソリューションを発表しました。同社の主張によると、これはNvidiaの製品よりも20倍高速な推論ソリューションです。

Cerebrasは、同社の大規模なチップへのアクセスを提供し、AIアプリケーションを実行します。同社によると、これはNvidiaのGPUよりも安価です。業界標準のNvidia GPUは、ChatGPTなどの大規模言語モデルを実行するために、通常クラウドサービスプロバイダーを通じてアクセスされます。アクセスを得るのは多くの中小企業にとって容易ではなく、高価です。 

Cerebras、新しいチップがGPUを超えるパフォーマンスを提供すると主張

AI推論は、すでに訓練されたAIモデルを操作して、チャットボットからの回答やさまざまなタスクの解決などの出力を得るプロセスです。推論サービスは今日のAIアプリケーションの基盤であり、日常の運用を支援するためにユーザーに依存しています。

Cerebrasによると、推論はAI業界で最も急速に成長しているセグメントであり、クラウドコンピューティングにおけるすべてのAI関連ワークロードの40%を占めています。CerebrasのCEOであるAndrew Feldman氏は、同社の大型チップはGPUよりも多くのパフォーマンスを提供すると述べました。GPUはこのレベルに達することはできないとFeldman氏は語りました。Feldman氏はReutersのインタビューで話していました。

彼は続けて

「私たちは最高精度でそれを行い、最低価格で提供しています。」出典： Reuters.

CEOは、既存のAI推論サービスがすべての顧客にとって満足いくものではないと述べました。彼はサンフランシスコで別の記者団に対し、同社はより高速で費用対効果の高いソリューションに対する「あらゆる種類の関心」を見ていると語りました。 

これまで、NvidiaはゴールドスタンダードのチップとCompute Unified Device Architecture（CUDA）プログラミング環境により、AIコンピューティング市場を支配してきました。これにより、広範なツールの提供を通じて、開発者をそのエコシステム内にロックインすることに成功しました。

CerbrasチップはNvidia H100 GPUよりも7000倍多くのメモリを搭載

Cerebrasによると、その高速推論サービスはAI業界にとって転換点です。同社の新しいチップはディナープレートの大きさで、ウェーハスケールエンジンと呼ばれます。これらは1秒あたり1000トークンを処理でき、同社はこれをブロードバンドインターネットの導入に匹敵するものとしています。

同社によると、新しいチップはさまざまなAIモデルに対して異なる量の出力を提供します。Llama 3.1 8Bの場合、新しいチップは1秒あたり最大1800トークンを処理でき、Llama 3.1 70Bの場合、1秒あたり450トークンを処理できます。

Cerebrasは、100万トークンあたり10セントで推論サービスを提供しており、これはGPUベースのものよりも安価です。業界の常識では、代替アプローチはパフォーマンスのために精度を妥協すると考えられていますが、Cerebrasの新しいチップは精度を維持できる能力があると同社は主張しています。

Cerebrasは、AI推論製品を異なる形態で提供すると述べています。同社は、クラウド経由および開発者キーを通じて推論サービスを導入する計画です。同社はまた、新しいチップをデータセンターの顧客や、独自のシステムを運用したい顧客に販売します。

新しいウェーハスケールエンジンチップには、独自の統合冷却および電力供給モジュールがあり、CerebrasデータセンターシステムであるCS-3の一部として提供されます。異なる報告によると、Cerebras CS-3システムは同社の推論サービスの基盤です。

このシステムは、Nvidia H100 GPUよりも7000倍のメモリ容量を誇ります。これはまた、多くのチップメーカーが対処しようとしているメモリ帯域幅の根本的な問題も解決します。

Cerbrasはまた、上場企業になるための取り組みも行っています。そのために、今月米国証券取引委員会（SEC）に非公開のプロスペクタスを提出しました。