Apple-Forscher haben einen bedeutenden Schritt hin zur Nutzung generativer KI auf iPhones gemacht und eine bahnbrechende Methode entwickelt, um die RAM-Beschränkungen mobiler Geräte zu umgehen. Große Sprachmodelle (LLMs) wie OpenAIs ChatGPT-4 sind für ihren enormen Rechenaufwand bekannt und benötigen in der Regel leistungsstarke Server. Googles kürzlich vorgestellte Gemini-KI, die als Konkurrenz zu GPT-4 entwickelt wurde, bietet jedoch eine speziell für Smartphones angepasste „Nano“-Variante. Diese nutzt Quantisierungstechniken, um die Parameter des Modells auf 1,8 Milliarden oder 3,6 Milliarden zu reduzieren. Aktuell kommt eine dieser Nano-Varianten im Google Pixel 8 Pro zum Einsatz, das derzeit zum reduzierten Preis von 799 US-Dollar bei Amazon erhältlich ist.
Googles Bemühungen mit Gemini Nano stellen zwar eine bedeutende Weiterentwicklung dar, doch Qualcomm behauptet, dass sein neuer Snapdragon 8 Gen 3 SoC generative KI-LLMs mit bis zu 10 Milliarden Parametern unterstützt. Dies übertrifft zwar Googles Fähigkeiten, bleibt aber weit hinter den 1,7 Billionen Parametern zurück, die GPT-4 für optimale Leistung benötigt. Die Quantisierung, die zwar die Verarbeitung auf mobilen SoCs erleichtert, geht zwangsläufig auf Kosten von Genauigkeit und Effektivität. Daher ist die Fähigkeit, größere LLMs auf mobilen Geräten zu verarbeiten, entscheidend für die Leistungssteigerung.
Apples geniale Lösung
Eine der größten Hürden für generative KI auf Smartphones ist der hohe RAM-Bedarf. Beispielsweise benötigt ein LLM-Modell mit 8 Bit pro Parameter und 7 Milliarden Parametern, wie Metas Llama 2 auf dem Snapdragon 8 Gen 3, mindestens 7 GB RAM. Apples iPhone 15 Pro-Serie verfügt über 8 GB RAM, was darauf hindeutet, dass ein von Apple entwickeltes LLM wie Llama 2 die Kapazitätsgrenzen des aktuellen iPhones nahezu erreicht. Um diese RAM-Beschränkung zu überwinden, haben Apples Forscher einen neuartigen Ansatz entwickelt.
Erweiterung des Flash-Speichers
In einer Forschungsarbeit mit dem Titel „LLM in a flash: Effiziente Inferenz großer Sprachmodelle mit begrenztem Speicher“ stellen Apples KI-Forscher eine Methode vor, die den Flash-Speicher eines iPhones nutzt, um den Arbeitsspeicher des Geräts zu ergänzen. Obwohl die Bandbreite des Flash-Speichers nicht mit der von LDDDR5/X-Arbeitsspeicher mithalten kann, haben Apples Forscher diese systembedingte Einschränkung auf raffinierte Weise überwunden. Ihre Methode kombiniert „Windowing“, wodurch das KI-Modell bereits verarbeitete, im Flash-Speicher gespeicherte Daten wiederverwenden kann, mit „Zeilen-Spalten-Bündelung“, einer Technik zur optimalen Organisation von LLM-Daten für schnellere Lesegeschwindigkeiten.
Zukunftsperspektiven für generative KI auf iPhones
Obwohl Apple noch kein Produkt auf Basis des LLM vorgestellt hat, deuten Gerüchte auf die baldige Einführung einer intelligenteren Siri-Version hin, die auf einem LLM basiert und mit iOS 18 auf den iPhone 16 Pro-Modellen der nächsten Generation erscheinen soll. Sobald dies Realität wird, ist Apple bestens gerüstet, seine innovative RAM-Erweiterungsmethode einzusetzen, um ein LLM-Modell mit der maximalen Anzahl an Parametern bereitzustellen, die für die Ausführung auf dem Gerät möglich sind.
Die Landschaft der generativen KI im Jahr 2024
Während die Technologiebranche unermüdlich an der Weiterentwicklung generativer KI-Funktionen arbeitet, dürfte 2024 das Jahr werden, in dem generative KI zum Standard auf Smartphones gehört. Samsung, ein bedeutender Akteur in diesem Bereich, bereitet sich darauf vor, seine verbesserten generativen KI-Angebote mit dem Launch der Galaxy S24-Serie im nächsten Monat vorzustellen. Dank Apples innovativer RAM-Erweiterungsmethode und Samsungs bevorstehenden Entwicklungen können Verbraucher eine deutliche Verbesserung der Leistungsfähigkeit KI-gestützter Funktionen auf ihren Mobilgeräten erwarten.
Apples wegweisender Ansatz zur Überwindung von RAM-Beschränkungen und zur Ermöglichung der Ausführung großer Sprachmodelle direkt auf dem Gerät ist ein bedeutender Schritt hin zur Realisierung generativer KI auf iPhones. Angesichts des zunehmenden Wettbewerbs, in dem Googles Gemini Nano und Qualcomms Snapdragon 8 Gen 3 Fortschritte machen, dürfte das Jahr 2024 einen Wendepunkt für die Integration generativer KI in den Smartphone-Alltag markieren.
