ジェミニ：大規模DNNチップレットアクセラレータのブレークスルー

進化を続けるディープニューラルネットワーク（DNN）の世界では、コンピューティング能力とストレージ容量の増強に対する需要が飛躍的に高まっています。チップレット技術は、こうした需要を満たす魅力的なソリューションとして浮上しており、パフォーマンスの向上、消費電力の削減、設計柔軟性の向上といった可能性を秘めています。しかしながら、パッケージコストの上昇やDie-to-Die（D2D）インターフェースのコスト高といった課題も抱えています。これらの課題に真正面から取り組むため、清華大学、西安交通大学、IIISCT、上海AI研究所の共同研究チームがGeminiを発表しました。この画期的なフレームワークは、大規模DNNチップレットアクセラレータに革命をもたらすことを目指しています。.

ジェミニは素晴らしい結果で輝きを放つ

研究チームは最近発表した論文「Gemini：大規模DNNチップレットアクセラレータのためのマッピングとアーキテクチャの共探査」において、包括的なソリューションとしてGeminiを提示しています。この革新的なフレームワークは、アーキテクチャとマッピングの両方の共探査に焦点を当て、大規模DNNチップレットアクセラレータの限界を押し広げます。その結果はまさに驚異的で、Geminiは最先端のSimbaアーキテクチャと比較して、平均1.98倍の性能向上と1.41倍の大幅なエネルギー効率向上を達成しました。.

チップレット技術における主な課題

Geminiの開発は、チップレット技術における2つの主要な課題への対応として実現しました。アーキテクチャ面では、最適なチップレット粒度を決定することが重要な課題となります。これは、歩留まりを向上させるために多数の小さなチップレットを使用することと、コストを抑えるために少数の大きなチップレットを選択することの間で、微妙なバランスをとることを必要とします。DNNマッピングにおいては、チップレット技術によって実現される大規模なスケールと、それに伴う高価なD2Dリンクが課題となります。.

ジェミニの革新的なソリューション

これらの課題に効果的に対処するため、研究チームは、メニーコアチップレットDNN推論アクセラレータにおいてLP SPM（Layer Processing Scratchpad Memory）スキームを表現するためのレイヤー中心のエンコード手法を導入しました。このエンコード手法はLPマッピングの最適化空間を明確化し、大幅な改善の余地を明らかにします。Geminiは、このエンコード手法と高度に構成可能なハードウェアテンプレートを活用して、大規模DNNチップレットアクセラレータ向けのマッピングとアーキテクチャの共探索フレームワークを構築します。このフレームワークは、マッピングエンジンとMonetary Cost Evaluatorで構成されています。.

マッピングエンジンは、5つの特別に設計された演算子を用いたシミュレーテッドアニーリング（SA）アルゴリズムを用いて、エンコード方式によって defi広大な空間をナビゲートします。同時に、コストのかかるD2D通信をmaticに最小限に抑えながら、この処理を実行します。同時に、Monetary Cost Evaluatorは、アーキテクチャパラメータを変化させながら、アクセラレータの金銭的コストを評価します。.

注目すべき結果

Tangram SPMを用いてGeminiの共最適化アーキテクチャとマッピングをSimbaアーキテクチャと比較した実証研究では、結果がすべてを物語っています。Geminiは、様々なDNNとバッチサイズにおいて、平均1.98倍という驚異的なパフォーマンス向上と、1.41倍という驚異的なエネルギー効率向上を達成しました。しかも、コストはわずか14.3%の増加にとどまっています。.

先駆的な進歩

Gemini の研究の意義は、DNN 推論アクセラレータ向けの LP SPM の最適化空間をmatic的に defiするという先駆的なアプローチにあります。Gemini は、エネルギー消費、パフォーマンス、コストといった重要な要素を考慮しながら、大規模 DNN チップレットアクセラレータのマッピングとアーキテクチャの最適化空間を共同で探求した初のフレームワークとして際立っています。.

DNN推論アクセラレータの有望な未来

研究チームは最後に、GeminiがDNN推論アクセラレータにおいて、複数のアクセラレータを単一のチップレットで実現する設計を容易にする潜在能力を強調しています。この革新は、急速に進化するこの分野において、効率性と革新性を高める新たな道を切り開きます。.

共同研究の成果であるGeminiは、大規模DNNチップレットアクセラレータのゲームチェンジャーとして登場しました。目覚ましい成果、革新的なソリューション、そしてパイオニア精神を備えたGeminiは、ディープニューラルネットワークアクセラレーションの領域を一変させる可能性を秘めています。チップレット技術が進化を続ける中で、Geminiはパフォーマンスの向上、消費電力の削減、そして設計柔軟性の向上に貢献し、この分野に多大な影響を与えることは間違いありません。.