- Apple の革新的な手法は、フラッシュストレージを活用して、オンデバイス大規模言語モデル (LLM) の RAM 制限を克服します。
- Qualcomm の Snapdragon 8 Gen 3 SoC は最大 100 億パラメータの LLM をサポートできますが、GPT-4 が最適なパフォーマンスを発揮するには 1.7 兆パラメータが必要です。
- 2024 年は、生成 AI がスマートフォンで一般的な機能となる年になる可能性があります。その先駆けとなるのが Apple と Samsung です。
生成 AI を iPhone に搭載する大きな一歩として、Apple の研究者らはモバイルデバイスの RAM 制限を回避するための画期的な手法を発表しました。OpenAI の ChatGPT 4 などの大規模言語モデル (LLM) は膨大な計算リソースを必要とし、通常は高性能サーバーで処理が行われます。しかし、GPT-4 に対抗するために設計された Google の最近の Gemini AI には、スマートフォン向けに最適化された「Nano」バージョンが存在します。この適応版では量子化技術を用いてモデルのパラメータ数を 18 億または 36 億に削減しています。現在、これらの Nano バリアントのいずれかが Google の Pixel 8 Pro スマートフォンで稼働しており、Amazon では価格を下げた 799 ドルで購入可能です。
Google の Gemini Nano への取り組みは重要な進展ですが、Qualcomm は新しい Snapdragon 8 Gen 3 SoC が最大 100 億パラメータの生成 AI LLM をサポートできると主張しています。これは Google の能力を上回っていますが、GPT-4 が最適に動作するために必要な 1.7 兆パラメータには遠く及びません。量子化はモバイル SoC での処理を可能にしますが、精度と効果の低下は避けられません。したがって、モバイルデバイスでより大きな LLM を扱える能力は、性能向上のために極めて重要です。
Apple の独創的な解決策
スマートフォンで生成 AI を実現する際の最大の障壁の一つは、膨大な RAM 要件です。例えば、Meta の Llama 2（Snapdragon 8 Gen 3 でサポート）のような 70 億パラメータのモデルを 1 パラメータあたり 8 ビットに削減した場合、少なくとも 7GB の RAM を備えたスマートフォンが必要です。iPhone 15 Pro シリーズは 8GB の RAM を搭載しており、Apple が開発した Llama 2 などの LLM は、現在の iPhone の能力の上限に近づきます。この RAM 制限を克服するため、Apple の研究者たちは新たなアプローチを考案しました。
フラッシュストレージの拡張
「LLM in a flash: Efficient Large Language Model Inference with Limited Memory」と題された研究論文で、Apple の生成 AI 研究者らは、iPhone のフラッシュストレージをオンボードシステム RAM を補完するために活用する手法を紹介しました。フラッシュストレージの帯域幅は LDDR5/X モバイル RAM に匹敵しませんが、Apple の研究者たちはこの本質的な制限を見事に克服しました。彼らの手法は、フラッシュストレージに保存された過去に処理されたデータを再利用可能にする「ウィンドウ化」と、LLM データを読み込み速度を向上させるために最適に整理する「行・列バンドル」を組み合わせています。
iPhone における生成 AI の将来展望
Apple はまだ LLM ベースの製品を発表していませんが、噂によると、iOS 18 で初登場し、次世代の iPhone 16 Pro モデルで動作する、LLM を基盤としたより賢い Siri がまもなく登場するとのことです。これが実現すれば、Apple はその革新的な RAM 拡張手法を活用し、オンデバイス実行が可能となる最大のパラメータ数を備えた LLM モデルを提供する体制を整えることができます。
2024における生成 AI の状況
テクノロジー業界が生成AIの能力向上を絶え間なく追求する中、2024年は生成AIがスマートフォンで一般的な機能となる年になると見られています。この分野における強力なプレイヤーであるサムスンは、来月のGalaxy S24シリーズの発売に合わせて、強化された生成AIの提供を開始する準備を整えています。Appleの革新的なRAM拡張手法とサムスンが今後展開する技術により、消費者はモバイルデバイス上のAI駆動機能の能力とパフォーマンスに大きな変革がもたらされることを期待できます。
AppleのRAM制限を克服し、オンデバイスでの大規模言語モデルの実行を可能にする先駆的なアプローチは、iPhone上で生成AIを実現するための重要な一歩です。GoogleのGemini NanoやQualcommのSnapdragon 8 Gen 3が進出するなど競争環境が激化する中、2024年は生成AIが日常のスマートフォン体験に統合される転換点となることが約束されています。
暗号通貨のニュースを読むだけでなく、それを理解しましょう。ニュースレターに登録してください。無料です。
免責事項。 ここに提供される情報は取引助言ではありません。 Cryptopolitan.com 当社は、このページに提供される情報に基づいて行われたいかなる投資に対しても責任を負いません。いかなる投資判断を下す前に、独立した調査および/または資格を有する専門家への相談を強く推奨します。
ジョン・パーマー
John Murangiri氏は、市場分析のスキルを身につけてCryptopolitanに参加しました。John（通称JP）はナイロビ大学でマスコミュニケーションおよびメディア研究の学士号を取得し、これまでにInsideBitcoins.comやMetacoingraphで暗号資産市場の洞察を提供してきました。
