Исследователи Apple прокладывают путь для генеративного искусственного интеллекта на iPhone

Значительный шаг на пути к внедрению генеративного ИИ в iPhone: исследователи Apple представили новаторский метод обхода ограничений оперативной памяти на мобильных устройствах. Большие языковые модели (LLM), такие как ChatGPT 4 от OpenAI, известны своими огромными вычислительными потребностями, обычно требующими мощных серверов для обработки данных. Однако недавно разработанная Google модель Gemini AI, призванная конкурировать с GPT-4, предлагает вариант «Nano», адаптированный для смартфонов. Эта адаптация использует методы квантования для уменьшения количества параметров модели до 1,8 миллиарда или 3,6 миллиарда. В настоящее время один из этих вариантов Nano используется в смартфонах Google Pixel 8 Pro, которые теперь доступны по сниженной цене в 799 долларов на Amazon.

Хотя разработка Google с Gemini Nano является значительным шагом вперед, Qualcomm утверждает, что ее новый SoC Snapdragon 8 Gen 3 может поддерживать генеративные ИИ-модели с LLM-модулями, содержащими до 10 миллиардов параметров. Хотя это превосходит возможности Google, этого все еще недостаточно для 1,7 триллиона параметров, необходимых для оптимальной работы GPT-4. Квантование, хотя и облегчает обработку на мобильных SoC, неизбежно снижает точность и эффективность. Таким образом, возможность работы с более крупными LLM-моделями на мобильных устройствах становится критически важной для повышения их производительности.

Гениальное решение Apple

Одной из главных проблем внедрения генеративного ИИ на смартфонах является существенный объем оперативной памяти. Например, для модели LLM, уменьшенной до 8 бит на параметр с 7 миллиардами параметров, такой как Llama 2 от Meta, поддерживаемая процессором Snapdragon 8 Gen 3, потребуется смартфон как минимум с 7 ГБ оперативной памяти. Серия iPhone 15 Pro от Apple может похвастаться 8 ГБ оперативной памяти, что указывает на то, что разработанная Apple модель LLM, такая как Llama 2, приблизится к верхним пределам возможностей современных iPhone. Для преодоления этого ограничения по оперативной памяти исследователи Apple разработали новый подход.

Расширение возможностей флэш-памяти

В исследовательской работе под названием «LLM в мгновение ока: эффективный вывод больших языковых моделей с ограниченной памятью» исследователи Apple в области генеративного ИИ представляют метод, который использует флэш-память iPhone для дополнения встроенной системной оперативной памяти устройства. Хотя пропускная способность флэш-памяти не соответствует пропускной способности мобильной оперативной памяти LDDR5/X, исследователи Apple гениально преодолели это присущее ей ограничение. Их метод сочетает в себе «оконное деление», которое позволяет модели ИИ повторно использовать ранее обработанные данные, хранящиеся на флэш-памяти, с «группировкой строк и столбцов», методом, который оптимально организует данные LLM для более высокой скорости чтения.

Перспективы развития генеративного ИИ на iPhone

Хотя Apple еще не представила продукт на основе LLM, ходят слухи о скором появлении более умной Siri на базе LLM, которая должна дебютировать с iOS 18 и работать на моделях iPhone 16 Pro следующего поколения. Когда это произойдет, Apple будет иметь хорошие возможности для использования своего инновационного метода расширения оперативной памяти, чтобы создать модель LLM с максимально возможным количеством параметров для выполнения на устройстве.

Развитие генеративного искусственного интеллекта в 2024 году

Поскольку технологическая индустрия продолжает неустанно стремиться к развитию возможностей генеративного ИИ, 2024 год, похоже, станет годом, когда генеративный ИИ станет обычной функцией смартфонов. Samsung, влиятельный игрок на этом рынке, готовится представить свои улучшенные решения в области генеративного ИИ с запуском серии Galaxy S24 в следующем месяце. Благодаря инновационному методу расширения оперативной памяти от Apple и предстоящим разработкам Samsung, потребители могут ожидать существенного улучшения возможностей и производительности функций, основанных на ИИ, на своих мобильных устройствах.

Новаторский подход Apple к преодолению ограничений оперативной памяти и обеспечению выполнения больших языковых моделей непосредственно на устройстве знаменует собой значительный шаг на пути к воплощению генеративного ИИ в реальность на iPhone. В условиях обострения конкуренции, когда Google Gemini Nano и Qualcomm Snapdragon 8 Gen 3 добиваются успехов, 2024 год обещает стать поворотным моментом для интеграции генеративного ИИ в повседневную жизнь смартфонов.