퀄컴의 최고급 AI 칩은 휴대폰에서 300억 개의 매개변수를 가진 모델을 실행합니다

퀄컴의 스냅드래곤 8 엘리트 익스트림 6세대 프로세서는 클라우드에 연결하지 않고도 300억 개의 매개변수를 가진 AI 모델을 스마트폰에서 직접 실행할 수 있습니다.

반도체 제조업체는 9월 22일 스냅드래곤 서밋에서 하위 모델인 스냅드래곤 8 엘리트 6세대와 함께 이를 발표했습니다.

다양한 전문가들이 참여한 디자인이 애플의 WWDC 발표 내용을 압도한다

이 모델은 여러 전문가가 혼합된 설계 방식입니다. 전체 모델은 300억 개의 매개변수를 가지고 있지만, 각 작업마다 일부 모델만 작동하여 배터리 구동 장치에서도 연산 부하를 제어할 수 있도록 합니다.

지난 6월, 애플은 세계 개발자 컨퍼런스(WWDC)에서 200억 개의 매개변수를 가진 인공지능 혼합 모델을 공개했습니다. 이는 애플의 3세대 기반 아키텍처 모델 중 가장 진보된 모델이었습니다.

두 칩에는 최대 2억 개의 매개변수를 처리하는 소형 모델을 실행하는 새로운 센싱 허브도 탑재되어 있습니다. 퀄컴에 따르면 이를 통해 휴대전화에서 개인 음성 인식 도구를 로컬에서 실행하고 화자를 구분할 수 있습니다.

허브는 또한 사용자가 기기를 사용하는 방식을 기억하여 자동화된 작업을 제안합니다. 회사 측은 음성 입력 및 음성 출력 기능을 갖춘 에이전트가 이 칩을 통해 실행될 수 있다고 밝혔습니다.

모토로라의 Signature 27을 필두로 9개 브랜드가 참여합니다

퀄컴 테크놀로지스의 모바일 핸드셋 부문 수석 부사장dent . 총괄 매니저인 크리스 패트릭은 "오늘 우리는 즉각적이고, 개인화되고, 적응력 있는 에이전트 기반 AI 경험을 제공하는 두 가지 새로운 플래그십 모바일 플랫폼을 선보이게 되어 중요한 이정표를 세웠습니다." 라고 말했습니다

두 칩 모두 2나노미터 공정으로 제작되었습니다. 퀄컴은 이 칩들에 자사의 맞춤형 오리온 CPU, 재설계된 아드레노 GPU, 그리고 헥사곤 신경 처리 장치가 사용된다고 밝혔습니다.

Extreme 칩은 8K 해상도 영상을 초당 60프레임으로, 4K 해상도 영상을 초당 240프레임으로 촬영하여 슬로우 모션 효과를 낼 수 있습니다. 두 칩 모두 퀄컴의 음성 분리 기능인 보이스 버블(Voice Bubble)을 탑재하고 있습니다.

이 플랫폼은 HONOR, iQOO, Motorola, OnePlus, OPPO, REDMI, RedMagic, vivo 및 Xiaomi에서 사용될 예정입니다. Motorola는 이번 행사에서 Extreme 칩을 탑재한 Motorola Signature 27을 발표했으며, 올해 안에 정식 출시될 예정입니다.

Cryptopolitan 9월 22일 애플이 새로운 맥 미니와 맥 스튜디오 데스크톱을 기업용 로컬 AI 머신으로 포지셔닝하고 있으며, 토큰당 클라우드 요금이 부과되지 않는다고 보도했습니다.