AmazonがNvidia-Googleの支配に挑戦するAIチップをローンチ

Amazonは、NvidiaとGoogleが握るハードウェアの支配に直接向かって動き、今週最新のAIトレーニングチップ、Trainium3をロールアウトしました。

このアクセラレーターはすでに少数のAWSデータセンターで実行されており、Amazon Web Servicesの副社長であるDave Brownへのインタビューによると、火曜日に顧客に開放されます。Daveは、会社がこれを緩やかに導入していないと言いました。

「来年の初めに入ると、非常に非常に迅速にスケールアウトを開始します」と彼は言いました。目標はシンプルです。開発者がその支出を他社に送るのを見るのではなく、Amazonのラックから直接より多くのコンピューティングを販売することです。

AWSはレンタルコンピューティングとストレージにおいて世界のクラウドで依然としてリードしています。そのリードは、大規模なAIトレーニングには明確に持ち込まれていません。一部のビルダーはOpenAIとのリンクによりMicrosoftに依存します。

他の人はGoogleとその自社チップに行きます。Amazonは現在、Trainium3を使用して、価格に敏感なチームを自社に戻そうとしています。基本的なピッチは、すべてのものをAWS内に保ちながら、作業単位あたりのコストを下げることです。

AmazonがクラウドスケールでTrainium3をプッシュ

Trainium3は、Amazonが最後のバージョンを展開してから約1年後に登場しました。そのペースはチップの標準の高速端にあります。チップが8月に初めて起動したとき、あるAWSエンジニアは冗談を言い、「ここで主に期待しているのは、煙や火災を見ないことです」と。この高速アップグレードリズムは、Nvidiaが毎年新しいチップを出荷するという公的な計画とも一致しています。

Amazonは、TrainiumチップがNvidiaのトップGPUよりも低いコストとより良い電力使用でAIモデルの重いコンピューティングを実行すると述べています。Daveは、「Trainiumで適切な価格パフォーマンスを得る能力に非常に満足しています」と言いました。モデルサイズが大きくなり、トレーニングコストが上昇するにつれて、会社はその価格面に大きく依存しています。

まだ制限があります。Amazonのチップには、チームがNvidiaハードウェア上で迅速に移動させることができる深いソフトウェアライブラリは搭載されていません。AIを使用して人間制御なしで建設機械を運転するBedrock Roboticsは、メインシステムをAWSサーバーで実行しています。掘削機を誘導するモデルをトレーニングする際、依然としてNvidiaチップを使用します。Bedrock RoboticsのCTOであるKevin Petersonは、「私たちはパフォーマンスが高く、使いやすいものを必要としています。それがNvidiaです」と言いました。

現在、ほとんどのTrainium容量はAnthropicに流れています。チップはインディアナ、ミシシッピ、ペンシルベニアのデータセンターで実行されています。今年初め、AWSはAnthropicの最新のモデルをトレーニングするために50万個以上のTrainiumチップをリンクしたと発表しました。Amazonは年末までにこれを100万個のチップに増やす計画です。

Amazonは、Anthropicの成長と自社AIサービスにTrainiumの未来を結びつけています。Anthropic以外では、会社はこれまで非常に少数の大規模顧客を名乗っています。これにより、アナリストはTrainiumがより広い使用でどのように機能するかを判断するための限られたデータしか持っていません。

Anthropicも独自の計算リソースのリスクを分散させています。同社は依然としてGoogleのTensor Processing Units（TPU）を使用しており、今年Googleと、数百億ドル規模の計算リソースへのアクセスを提供する契約を結びました。

Amazonはre: Invent、その年次ユーザー会議でTrainium3を明らかにしました。このイベントは、新しいモデルを構築する開発者や、大規模なアクセスに支払う準備ができている企業向けに、AIツールとインフラストラクチャの非停止表示へと変化しました。

AmazonがNovaのアップデートをリリースし、Nova Forgeを公開

火曜日、Amazonは主要なAIモデルファミリー「Nova」を更新しました。新しいNova 2シリーズには「Omni」と呼ばれるバージョンが含まれています。

Omniはテキスト、画像、音声、またはビデオを入力として受け付けます。応答もテキストと画像の両方で返すことができます。Amazonは、これらの入力タイプとモデルコストを組み合わせたパッケージを、大規模な日常利用向けに販売しています。

Amazonはモデルの価格設定において、依然として「ドルあたりのパフォーマンス」を重視しています。過去のNovaモデルは、固定された質問への回答を採点する標準的なテストランキングで上位にはランクインしていませんでした。同社はテストチャートよりも実際の使用状況を重視しています。

Amazonのモデル開発および人工一般知能（AGI）チームのリーダーであるRohit Prasad氏は、「真のベンチマークは現実世界だ」と述べ、新しいモデルが実際の使用環境で競争できると期待していると付け加えました。

Amazonはまた、新しい製品「Nova Forge」を通じて、上級ユーザー向けにより深いモデル制御の機会を提供しています。これにより、チームはトレーニング終了前にNovaモデルのバージョンを取得し、独自のデータを使用してモデルを調整することができます。

RedditはすでにNova Forgeを使用して、投稿が安全ルールに違反しているかどうかをチェックするモデルを構築しています。RedditのCTOであるChris Slowe氏は、多くのAIユーザーがタスクごとに最も大きなモデルを選択する傾向があるが、狭い焦点でトレーニングされたモデルを使用するべきだと指摘しました。「我々の特定の分野で専門家を育てられることが、価値の源泉です」と彼は述べています。

Trainium3がデータセンターで稼働し、同時にNovaモデルが更新されたことで、Amazonは二つの面で攻勢を続けています。ハードウェア面での競争はNvidiaと対峙し、モデル面での競争はMicrosoft支援のOpenAIおよびGoogleと対峙しています。次のフェーズは、フルクラウドスケールでの実際の顧客利用へと移行します。