Em um passo significativo para levar a Inteligência Artificial Generativa aos iPhones, pesquisadores da Apple introduziram um método inovador para contornar as limitações de RAM em dispositivos móveis. Modelos de Linguagem de Grande Porte (LLMs), como o ChatGPT-4 da OpenAI, são conhecidos por suas imensas demandas computacionais, geralmente exigindo servidores potentes para lidar com seu processamento. No entanto, o recente Gemini AI do Google, projetado para rivalizar com o GPT-4, oferece uma variante "Nano" adaptada para smartphones. Essa adaptação emprega técnicas de quantização para reduzir os parâmetros do modelo para 1,8 bilhão ou 3,6 bilhões. Atualmente, uma dessas variantes Nano equipa os smartphones Pixel 8 Pro do Google, agora disponíveis por um preço reduzido de US$ 799 na Amazon.
Embora os esforços do Google com o Gemini Nano representem um avanço significativo, a Qualcomm afirma que seu novo SoC Snapdragon 8 Gen 3 pode suportar LLMs de IA generativa com até 10 bilhões de parâmetros. Embora isso supere as capacidades do Google, ainda está muito aquém dos 1,7 trilhão de parâmetros necessários para o desempenho ideal do GPT-4. A quantização, embora facilite o processamento em SoCs móveis, inevitavelmente sacrifica a precisão e a eficácia. Assim, a capacidade de acomodar LLMs maiores em dispositivos móveis torna-se crucial para melhorar seu desempenho.
A solução genial da Apple
Um dos principais obstáculos para viabilizar a IA generativa em smartphones é a grande quantidade de RAM necessária. Por exemplo, um modelo LLM reduzido a 8 bits por parâmetro com 7 bilhões de parâmetros, como o Llama 2 da Meta e suportado pelo Snapdragon 8 Gen 3, exigiria um smartphone com pelo menos 7 GB de RAM. A linha iPhone 15 Pro da Apple possui 8 GB de RAM, o que indica que um LLM desenvolvido pela Apple, como o Llama 2, se aproximaria do limite máximo das capacidades atuais do iPhone. Para superar essa limitação de RAM, os pesquisadores da Apple desenvolveram uma nova abordagem.
Aumento do armazenamento flash
Em um artigo de pesquisa intitulado “LLM em um instante: Inferência eficiente de grandes modelos de linguagem com memória limitada”, os pesquisadores de IA generativa da Apple apresentam um método que utiliza o armazenamento flash do iPhone para complementar a RAM integrada do sistema. Embora a largura de banda do armazenamento flash não seja equivalente à da RAM móvel LDDR5/X, os pesquisadores da Apple superaram engenhosamente essa limitação inerente. Seu método combina “janelas”, que permite ao modelo de IA reutilizar dados processados anteriormente e armazenados no armazenamento flash, com “agrupamento de linhas e colunas”, uma técnica que organiza os dados do LLM de forma otimizada para velocidades de leitura mais rápidas.
Perspectivas futuras para IA generativa em iPhones
Embora a Apple ainda não tenha apresentado um produto baseado em LLM, rumores sugerem a chegada iminente de uma Siri mais inteligente, também baseada em LLM, com estreia prevista para o iOS 18 e para os modelos de próxima geração do iPhone 16 Pro. Quando isso se concretizar, a Apple estará em uma posição privilegiada para empregar seu inovador método de extensão de RAM e oferecer um modelo de LLM com o máximo de parâmetros possível para execução no dispositivo.
O panorama da IA generativa em 2024
À medida que a indústria de tecnologia continua sua busca incessante por avanços nas capacidades de IA generativa, 2024 parece ser o ano em que a IA generativa se tornará um recurso comum em smartphones. A Samsung, uma empresa de grande porte nesse setor, está se preparando para revelar suas ofertas aprimoradas de IA generativa com o lançamento da série Galaxy S24 no próximo mês. Com o método inovador de aumento de RAM da Apple e os desenvolvimentos futuros da Samsung, os consumidores podem esperar uma transformação substancial nas capacidades e no desempenho dos recursos baseados em IA em seus dispositivos móveis.
A abordagem pioneira da Apple para superar as limitações de RAM e facilitar a execução de Modelos de Linguagem Complexos no próprio dispositivo representa um passo significativo para tornar a IA generativa uma realidade nos iPhones. Com o cenário competitivo cada vez mais acirrado, impulsionado pelo Gemini Nano do Google e pelo Snapdragon 8 Gen 3 da Qualcomm, o ano de 2024 promete ser um ponto de virada para a integração da IA generativa nas experiências cotidianas com smartphones.
