- Gemini가 1.98배의 성능 향상을 통해 DNN 칩릿을 가속화합니다.
- Gemini에 의해 정의된 혁신적인 LP SPM 최적화 공간입니다.
- DNN 추론 효율성을 위한 칩릿 기술의 재정의.
항상 진화하는 딥 뉴럴 네트워크(DNN)의 세계에서, 증가하는 컴퓨팅 파워와 스토리지 능력에 대한 요구는 지수함수적으로 성장했습니다. 칩렛 기술은 이러한 요구를 충족하기 위한 매력적인 솔루션으로 부상하며, 성능 향상, 전력 소비 감소, 설계 유연성 향상의 잠재력을 제공합니다. 그러나 이는 높은 패키징 비용과 비용이 많이 드는 Die-to-Die(D2D) 인터페이스를 포함한 도전을 수반합니다. 이러한 도전에 직접 대응하기 위해 칭화 대학, 시안 자오퉁 대학, IIISCT, 상하이 AI 연구소의 협력 연구팀은 Gemini를 소개했습니다. 이 획기적인 프레임워크는 대규모 DNN 칩렛 가속기를 혁신하는 것을 목표로 합니다.
Gemini는 인상적인 결과로 빛납니다
최근 "Gemini: 대규모 DNN 칩렛 가속기를 위한 매핑 및 아키텍처 공동 탐색"이라는 제목의 논문에서 연구팀은 Gemini를 포괄적인 솔루션으로 제시합니다. 이 혁신적인 프레임워크는 대규모 DNN 칩렛 가속기의 한계를 밀어붙이기 위해 아키텍처와 매핑의 공동 탐색에 중점을 둡니다. 결과는 놀라울 정도로, Gemini는 최신 Simba 아키텍처와 비교하여 평균 성능 개선 1.98배와 상당한 에너지 효율성 향상 1.41배를 달성했습니다.
칩렛 기술의 주요 도전 과제
Gemini의 개발은 칩렛 기술의 두 가지 주요 도전에 대한 대응입니다. 아키텍처 측면에서 주요 도전은 최적의 칩렛 입자를 결정하는 것입니다. 이는 수율을 개선하기 위해 많은 소규모 칩렛을 사용하는 것과 비용을 통제하기 위해 fewer, larger 칩렛을 선택하는 것 사이의 미묘한 균형을 요구합니다. DNN 매핑에서는 칩렛 기술로 인해 확장된 규모와 관련된 비용이 많이 드는 D2D 링크로 인해 도전이 발생합니다.
Gemini의 혁신적인 솔루션
이러한 도전을 효과적으로 해결하기 위해 연구팀은 다중 코어 칩렛 DNN 추론 가속기에서 LP SPM(레이어 처리 스크래치 패드 메모리) 스키마를 표현하기 위한 레이어 중심 인코딩 방법을 소개합니다. 이 인코딩 방법은 LP 매핑을 위한 최적화 공간을 명확히 하여 개선의 상당한 기회를 드러냅니다. Gemini는 이 인코딩과 매우 구성 가능한 하드웨어 템플릿을 활용하여 대규모 DNN 칩렛 가속기를 위한 매핑 및 아키텍처 공동 탐색 프레임워크를 수립합니다. 이 프레임워크는 매핑 엔진과 금전적 비용 평가기로 구성됩니다.
매핑 엔진은 인코딩 방식이 정의하는 광범위한 공간을 탐색하기 위해 특별히 설계된 5가지 연산자를 갖춘 시뮬레이티드 어닐링(Simulated Annealing, SA) 알고리즘을 활용합니다. 이는 비용이 많이 드는 D2D 통신을 자동으로 최소화하면서 수행됩니다. 동시에 Monetary Cost Evaluator는 다양한 아키텍처 파라미터를 가진 가속기의 금전적 비용을 평가합니다.
놀라운 결과
Gemini의 공동 최적화된 아키텍처 및 매핑을 Tangram SPM을 사용하는 Simba 아키텍처와 비교한 실증 연구에서 결과는 스스로를 말해줍니다. Gemini는 다양한 DNN과 배치 크기에서 평균 1.98배의 인상적인 성능 향상과 1.41배의 놀라운 에너지 효율성 개선을 달성했습니다. 모든 것은 단지 14.3%의 modest한 금전적 비용 증가와 함께 이루어집니다.
선구적인 발전
Gemini 연구의 중요성은 DNN 추론 가속기를 위한 LP SPM의 최적화 공간을 체계적으로 정의하는 선구적인 접근 방식에 있습니다. Gemini는 에너지 소비, 성능, 금전적 비용과 같은 중요한 요소를 고려하여 대규모 DNN 칩렛 가속기를 위한 매핑 및 아키텍처 최적화 공간을 공동으로 탐색하는 최초의 프레임워크로 돋보입니다.
DNN 추론 가속기의 유망한 미래
연구팀은 Gemini가 DNN 추론 가속기에서 단일 칩렛을 여러 가속기에 활용하는 설계의 가능성을 촉진할 잠재력을 강조하며 결론을 내립니다. 이 혁신은 빠르게 진화하는 이 분야에서 효율성과 혁신을 위한 새로운 길을 열어줍니다.
협업 연구 노력의 산물인 Gemini는 대규모 DNN 칩렛 가속기 분야에서 게임 체인저로 부상합니다. 인상적인 결과, 혁신적인 솔루션, 선구적인 정신을 갖춘 Gemini는 딥 뉴럴 네트워크 가속화 영역의 지형을 재편할 준비가 되어 있습니다. 칩렛 기술이 계속 진화함에 따라, 향상된 성능, 감소된 전력 소비, 개선된 설계 유연성에 대한 Gemini의 기여는 이 분야에 영향을 미칠 것입니다.
암호화폐 뉴스를 단순히 읽는 것을 넘어, 이해하세요. 뉴스레터에 구독하세요. 무료입니다.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
글로리 카부루
글로리는 AI 도구와 연구에 능통한 매우 유능한 저널리스트입니다. 그녀는 AI 에 열정을 가지고 있으며 이 주제에 관한 여러 편의 기사를 집필했습니다. 그녀는 인공지능, 머신러닝, 딥러닝 분야의 최신 동향을 항상 파악하고 정기적으로 글을 씁니다.
