제미니: 대규모 DNN 칩렛 가속기의 획기적인 발전

심층 신경망(DNN) 분야가 끊임없이 발전함에 따라 컴퓨팅 성능과 저장 용량에 대한 수요가 기하급수적으로 증가하고 있습니다. 칩렛 기술은 이러한 요구를 충족할 수 있는 유력한 해결책으로 떠오르고 있으며, 성능 향상, 전력 소비 감소, 설계 유연성 증대 등의 잠재력을 제공합니다. 그러나 칩렛 기술은 높은 패키징 비용과 고가의 다이 간(D2D) 인터페이스와 같은 과제도 안고 있습니다. 이러한 과제를 정면으로 해결하기 위해 칭화대학교, 시안 자오퉁대학교, IIISCT, 상하이 인공지능 연구소의 공동 연구팀은 Gemini라는 획기적인 프레임워크를 개발했습니다. 이 프레임워크는 대규모 DNN 칩렛 가속기에 혁명을 일으키는 것을 목표로 합니다.

쌍둥이자리가 인상적인 성과를 거두었습니다

최근 발표된 "Gemini: 대규모 DNN 칩렛 가속기를 위한 매핑 및 아키텍처 공동 탐색" 논문에서 연구팀은 Gemini를 포괄적인 솔루션으로 제시했습니다. 이 혁신적인 프레임워크는 아키텍처와 매핑을 동시에 탐색하여 대규모 DNN 칩렛 가속기의 성능 한계를 뛰어넘는 데 중점을 둡니다. 그 결과, Gemini는 최첨단 Simba 아키텍처 대비 평균 1.98배의 성능 향상과 1.41배의 에너지 효율 개선을 달성하는 놀라운 성과를 보여주었습니다.

칩렛 기술의 주요 과제

Gemini의 개발은 칩렛 기술의 두 가지 주요 과제에 대한 대응으로 이루어졌습니다. 아키텍처 측면에서 핵심 과제는 최적의 칩렛 세분화를 결정하는 것입니다. 이는 생산량 향상을 위해 더 작은 칩렛을 다수 사용하는 것과 비용 절감을 위해 더 크고 적은 칩렛을 선택하는 것 사이에서 미묘한 균형을 맞춰야 함을 의미합니다. DNN 매핑에서는 칩렛 기술로 가능해진 광범위한 규모와 그에 따른 고비용의 D2D 링크로 인해 어려움이 발생합니다.

제미니의 혁신적인 솔루션

이러한 과제를 효과적으로 해결하기 위해 연구팀은 멀티코어 칩렛 DNN 추론 가속기에서 LP SPM(레이어 처리 스크래치패드 메모리) 방식을 표현하는 레이어 중심 인코딩 방법을 도입했습니다. 이 인코딩 방법은 LP 매핑의 최적화 공간을 명확히 구분하여 개선 가능성을 제시합니다. Gemini는 이 인코딩 방법과 고도로 구성 가능한 하드웨어 템플릿을 활용하여 대규모 DNN 칩렛 가속기를 위한 매핑 및 아키텍처 공동 탐색 프레임워크를 개발했습니다. 이 프레임워크는 매핑 엔진과 비용 평가기로 구성됩니다.

매핑 엔진은 인코딩 방식이 defi광범위한 공간을 탐색하기 위해 특별히 설계된 5개의 연산자를 사용하는 시뮬레이티드 어닐링(SA) 알고리즘을 활용합니다. 이 과정에서 비용이 많이 드는 D2D 통신을matic으로 최소화합니다. 동시에, 비용 평가 도구는 다양한 아키텍처 매개변수를 가진 가속기의 비용을 평가합니다.

놀라운 결과

Tangram SPM을 사용하여 Gemini의 공동 최적화 아키텍처 및 매핑과 Simba 아키텍처를 비교한 실증 연구에서 결과는 명확합니다. Gemini는 다양한 DNN 및 배치 크기에 걸쳐 평균 1.98배의 인상적인 성능 향상과 1.41배의 놀라운 에너지 효율성 향상을 달성했습니다. 이 모든 성과는 비용 증가율이 단 14.3%에 불과한 상황에서 이루어졌습니다.

선구적인 발전

Gemini의 연구는 DNN 추론 가속기를 위한 LP SPM의 최적화 공간을matic으로 defi하는 선구적인 접근 방식에 중요한 의미를 지닙니다. Gemini는 에너지 소비, 성능, 비용과 같은 핵심 요소를 고려하여 대규모 DNN 칩렛 가속기를 위한 매핑 및 아키텍처 최적화 공간을 동시에 탐색한 최초의 프레임워크입니다.

DNN 추론 가속기의 밝은 미래

연구팀은 Gemini가 DNN 추론 가속기에서 여러 가속기를 하나의 칩렛에 통합하는 설계 방식을 가능하게 하는 잠재력을 강조하며 결론을 맺었습니다. 이러한 혁신은 빠르게 발전하는 이 분야에서 효율성과 혁신을 위한 새로운 길을 열어줍니다.

공동 연구 노력의 결실로 탄생한 제미니(Gemini)는 대규모 DNN 칩렛 가속기 분야의 판도를 바꿀 혁신적인 제품으로 떠올랐습니다. 뛰어난 성능, 혁신적인 솔루션, 그리고 선구자 정신을 바탕으로 제미니는 딥 뉴럴 네트워크 가속 분야의 지형을 새롭게 바꿀 준비가 되어 있습니다. 칩렛 기술이 지속적으로 발전함에 따라, 제미니가 제공하는 성능 향상, 전력 소비 감소, 그리고 설계 유연성 증대는 해당 분야에 지대한 영향을 미칠 것입니다.