퀄컴의 최상위 AI 칩, 모바일 폰에서 300억 파라미터 모델 실행

퀄컴의 스냅드래곤 8 이클림 엑스트림 제6세대는 클라우드에 접속하지 않고도 핸드셋에서 직접 300억 파라미터 AI 모델을 실행할 수 있습니다.

칩 제조사는 9월 22일 스냅드래곤 서밋에서 이를 발표했으며, 이와 함께 스냅드래곤 8 이클림 제6세대의 하위 모델을 함께 발표했습니다.

mixture-of-experts 설계, 애플 WWDC 발표를 압도

이 모델은 mixture-of-experts 설계입니다. 전체 모델은 300억 개의 파라미터를 가지고 있지만, 단일 작업에는 일부만 활성화되어 배터리 장치에서 컴퓨 부담을 통제 가능하게 유지합니다.

6월, 애플은 전 세계 개발자 회의에서 200억 파라미터의 mixture-of-experts 모델을 공개했습니다. 이는 애플의 가장 진보된 3세대 파운데이션 모델이었습니다.

두 칩 모두 최대 2억 파라미터의 작은 모델을 실행하는 새로운 센싱 허브를 갖추고 있습니다. 퀄컴에 따르면 이를 통해 휴대폰이 개인 녹음 도구를 로컬에서 실행하고 화자를 구분할 수 있습니다.

허브는 또한 사람이 기기를 사용하는 방식에 대한 메모리를 구축하여 자동화된 작업을 제안합니다. 회사는 전체 음성 입력, 음성 출력 에이전트가 칩을 통해 실행될 수 있다고 말했습니다.

9개 브랜드 서명, 모토로라의 시그니처 27 주도

“오늘은 즉각적이고 개인적이며 적응적인 에이전트 AI 경험을 제공하는 두 가지 새로운 플래그십 모바일 플랫폼을 소개함으로써 이정표를 세우는 날입니다,”라고 퀄컴 테크놀로지스의 모바일 핸드셋 부문 수석 부사장 겸 일반 관리자 크리스 패트릭은 말했습니다.

두 칩 모두 2나노미터 공정으로 제조됩니다. 회사는 퀄컴의 맞춤형 Oryon CPU, 재아키텍처된 Adreno GPU 및 Hexagon 신경 처리 장치를 사용한다고 말했습니다.

엑스트림은 초당 60프레임으로 8K 비디오를 캡처하고 초당 240프레임으로 4K를 캡처하여 슬로우 모션을 지원합니다. 두 칩 모두 음성 고립을 위한 퀄컴의 음성 버블 기능을 갖추고 있습니다.

이 플랫폼들은 HONOR, iQOO, 모토로라, 원플러스, OPPO, REDMI, RedMagic, vivo 및 Xiaomi에서 사용할 예정입니다. 모토로라는 행사에서 엑스트림 칩을 기반으로 한 모토로라 시그니처 27을 발표했으며, 올해 중 일반 출시될 예정입니다.

Cryptopolitan은 9월 22일 애플이 새로운 맥 미니 및 맥 스토디오 데스크톱을 토큰별 클라우드 요금 없이 비즈니스를 위한 로컬 AI 머신으로 포지셔닝하고 있다고 보도했습니다.