QualcommのトップAIチップがモバイルフォンで300億パラメータモデルを実行

QualcommのSnapdragon 8 Elite Extreme Gen 6は、クラウドに依存することなく、300億パラメータのAIモデルを端末上で直接実行できます。

チップメーカーは9月22日のSnapdragon Summitでこれを発表し、同時にSnapdragon 8 Elite Gen 6のステップダウン版も発表しました。

Mixture-of-experts設計はAppleのWWDC発表を上回る

このモデルはMixture-of-experts設計です。フルモデルは300億パラメータを持ちますが、1つのタスクに対して発火するのはその一部のみであり、バッテリー駆動デバイスでの計算負荷を制御可能に保っています。

6月、AppleはWorldwide Developer Conferenceで200億パラメータのMixture-of-expertsモデルを発表しました。これはAppleの最も先進的な第3世代ファウンデーションモデルでした。

2つのチップには、最大2億パラメータの小型モデルを実行する新しいセンシングハブもあります。これにより、電話でパーソナル文字起こしツールをローカルで実行し、話者を区別することが可能になると、Qualcommは述べています。

ハブはまた、人がデバイスをどのように使用するかについての記憶を構築し、自動化されたタスクを提案します。同社は、完全な音声入力・音声出力エージェントがチップを通じて実行できると述べています。

9つのブランドが署名、MotorolaのSignatureが27をリード

「今日は、即時性、パーソナライズ、適応性を備えたエージェント型AI体験を提供する、1つではなく2つの新しいフラッグシップモバイルプラットフォームを導入するというマイルストーンとなります」と、Qualcomm Technologiesのモバイル端末担当シニアバイスプレジデント兼ゼネラルマネージャーであるChris Patrick氏は述べています。

両チップは2ナノメートルプロセスで製造されています。同社は、QualcommのカスタムOryon CPU、再設計されたAdreno GPU、およびHexagonニューラルプロセッシングユニットを使用していると述べています。

Extreme版は、60フレーム/秒で8K動画、240フレーム/秒で4K動画（スローモーション用）の撮影が可能です。両チップには、音声分離のためのQualcommのボイスバブル機能があります。

これらのプラットフォームは、HONOR、iQOO、Motorola、OnePlus、OPPO、REDMI、RedMagic、vivo、Xiaomiによって使用される予定です。MotorolaはイベントでExtremeチップ上のMotorola Signature 27を発表し、年内の一般提供を予定しています。

Cryptopolitanは9月22日、Appleが新しいMac miniおよびMac Studioデスクトップを、トークンごとのクラウド料金なしでビジネス向けローカルAIマシンとして位置づけていると報じました。