AMD presenta LM Studio per la distribuzione di modelli di intelligenza artificiale locali

Per democratizzare l'accesso alle tecnologie di intelligenza artificiale avanzate, AMD ha presentato LM Studio, uno strumento versatile che consente agli utenti di scaricare e implementare localmente modelli di grandi dimensioni (LLM). Questa iniziativa si contrappone alla tendenza prevalente secondo cui i servizi di intelligenza artificiale si basano prevalentemente su potenti hardware Nvidia e richiedono una connessione a Internet. LM Studio di AMD mira a fornire agli utenti un accesso semplice e immediato agli assistenti IA, senza i vincoli di configurazioni complesse o di una conoscenza approfondita della programmazione.

Facile implementazione e versatilità

LM Studio semplifica l'accesso agli assistenti AI, rivolgendosi a un'ampia gamma di utenti, dagli appassionati di produttività ai pensatori creativi. Grazie a istruzioni dettagliate per diverse configurazioni hardware e sistemi operativi, tra cui Linux, Windows e macOS, gli utenti possono configurare LM Studio sui propri sistemi senza problemi. Lo strumento è progettato per funzionare su processori AMD Ryzen, sfruttando le istruzioni AVX2 native per prestazioni ottimali.

L'impegno di AMD per l'accessibilità si estende anche alla sua offerta di GPU, con la serie Radeon RX 7000 supportata tramite l'anteprima tecnica ROCm di LM Studio. Questo stack software open source migliora le prestazioni e l'efficienza per LLM e altri carichi di lavoro di intelligenza artificiale sulle GPU AMD. Gli utenti possono sfruttare le competenze hardware di AMD per sfruttare appieno il potenziale degli assistenti AI senza dover fare affidamento esclusivamente sulla potenza di calcolo della CPU.

Integrazione perfetta e miglioramento delle prestazioni

LM Studio offre un'esperienza di integrazione fluida, consentendo agli utenti di scoprire, scaricare ed eseguire LLM locali senza sforzo. Lo strumento consiglia modelli popolari come Mistral 7b e LLAMA v2 7b, garantendo agli utenti l'accesso a funzionalità di intelligenza artificiale all'avanguardia. Inoltre, LM Studio fornisce indicazioni sulla selezione del modello di quantizzazione più adatto, sull'ottimizzazione delle prestazioni per i chip Ryzen AI e sull'abilitazione dell'offload della GPU per i possessori di GPU Radeon.

LM Studio di AMD rappresenta un passo significativo verso la riduzione del divario con la soluzione Chat with RTX di Nvidia. Mentre l'applicazione proprietaria di Nvidia è esclusiva per le GPU GeForce RTX 30 o 40, LM Studio offre un approccio più agnostico, supportando sia le GPU AMD che Nvidia e i processori PC generici dotati di istruzioni AVX2. Questo approccio garantisce una maggiore accessibilità alle tecnologie di intelligenza artificiale, indipendentemente dalle preferenze o dai vincoli hardware.

Fornire agli utenti soluzioni di intelligenza artificiale locali

Con l'introduzione di LM Studio, AMD mira a fornire agli utenti di intelligenza artificiale , consentendo loro di sfruttare la potenza di modelli linguistici avanzati senza dipendere da servizi esterni o dalla connettività Internet. Offrendo un'interfaccia intuitiva e un supporto completo per diverse configurazioni hardware, AMD è pronta a rivoluzionare il panorama dell'intelligenza artificiale, rendendo le tecnologie all'avanguardia più accessibili e inclusive.