Sbloccare il potenziale dei LLM, un cambiamento di gioco per i manager

Nel campo dei dati e dell'intelligenza artificiale (AI), l'entusiasmo spesso ruota attorno al fattore "wow", ma per molti manager aziendali l'attenzione è raggiungere risultati pratici e reali. Nell'inondazione di notizie su AI all'avanguardia come ChatGPT e i Modelli Linguistici di Grande Dimensione (LLM), i manager in settori non tecnologici o tradizionali potrebbero chiedersi se queste tecnologie avanzate siano rilevanti per le loro operazioni quotidiane.

I Modelli Linguistici di Grande Dimensione, o LLM, offrono più della semplice capacità di generazione di testo. Questi modelli, come GPT-4, sono incredibilmente versatili e possono essere utilizzati per eseguire una vasta gamma di attività. La chiave per sbloccare questo potenziale risiede nella creazione di istruzioni precise, spesso chiamate "prompt", che guidano gli LLM nell'esecuzione di compiti specifici. Questa abilità in evoluzione nella creazione di prompt efficaci è comunemente nota come ingegneria dei prompt.

Considera scenari in cui un LLM può identificare le lingue nelle recensioni dei clienti, tradurre documenti aziendali o valutare il sentiment dei reclami dei clienti. Nell'era pre-LLM, il raggiungimento di questi compiti avrebbe richiesto lo sviluppo o l'acquisizione di sistemi separati per ciascuna funzione, comportando costi aggiuntivi per la raccolta dei dati e l'hardware. Tuttavia, con il modello di prezzo pay-per-use conveniente degli LLM, questi casi d'uso diventano più economici rispetto allo sviluppo di numerosi modelli specializzati. Di conseguenza, gli LLM stanno evolvendosi in una tecnologia versatile per varie applicazioni, diventando essenzialmente un design dominante.

Integrazione fluida nei flussi di lavoro

Mentre molti hanno esplorato ChatGPT tramite la sua interfaccia web, gli LLM e la loro tecnologia sottostante sono disponibili tramite API software, rendendo l'integrazione in applicazioni e flussi di lavoro aziendali notevolmente economica e semplice. Esempi come Duolingo che utilizza GPT-4 per un feedback migliorato agli utenti e Morgan Stanley che sfrutta gli LLM per raccomandazioni finanziarie dimostrano le diverse applicazioni degli LLM. I progetti open-source, come langchain, permettono la creazione di programmi componendo catene di istruzioni basate su LLM, aprendo la strada a soluzioni ancora più innovative in futuro.

L'aspetto disruptive degli LLM è il modo in cui abilitano la programmazione con l'AI. Gli sviluppatori possono specificare i compiti utilizzando istruzioni in linguaggio semplice e combinare i risultati come mattoncini Lego, offrendo un'alternativa al tradizionale dilemma "compra-fai", dove puoi "fare vs. comprare o adattare da un LLM".

Interrogare i dati aziendali con gli LLM

Un'altra applicazione promettente degli LLM è l'interrogazione dei dati aziendali. Gli LLM possono fornire risposte a domande relative ai dati quando i dati sono inclusi come parte del prompt. Questo approccio è stato testato da Boston Dynamics, che ha utilizzato ChatGPT per inquire sul livello della batteria di un robot o sul suo stato interno. Questo apre opportunità per i database di conoscenza aziendale. Ora è possibile inserire un bundle di documenti aziendali o record di dati in un prompt e porre domande su di essi, potenzialmente sostituendo le query SQL tradizionali a lungo termine.

Sono in corso sforzi per connettere i database di documenti con gli LLM in modo più efficiente, come la ricerca dei documenti più rilevanti e la loro inclusione solo nel contesto. Nonostante le sfide, gli LLM stanno emergendo come una nuova interfaccia per interagire con i dati.

Interoperabilità e azione con gli LLM

Gli LLM stanno anche aprendo la strada nella loro capacità di "connettersi" con altri sistemi e intraprendere azioni quando necessario. La strategia di prompting ReAct, introdotta dai ricercatori di Google e Princeton, permette agli LLM di generare risposte che includono chiamate a servizi. Ad esempio, un LLM potrebbe connettersi a un servizio di calcolatrice per fornire una risposta a una richiesta di calcolo. Le versioni premium di ChatGPT offrono plugin come Expedia e Kayak, fornendo accesso alle informazioni di prenotazione e gestendo query matematiche complesse.

Nel complesso, questa capacità degli LLM di interagire con altri sistemi ha il potenziale di trasformarli in piattaforme o marketplace per vari servizi, simile a come i telefoni svolgono più funzioni oltre a fare chiamate.

LLM: Economici, adattabili e accessibili

In conclusione, i manager aziendali non dovrebbero scartare gli LLM a causa della complessità percepita. Gli LLM sono prontamente disponibili come strumenti flessibili ed economici su base pay-per-word, spesso offrendo tariffe più economiche delle alternative. Si stanno rapidamente evolvendo in tecnologie generiche e tuttofare, sostituendo numerosi modelli più piccoli e offrendo un nuovo tipo di programmazione attraverso istruzioni basate sulle parole. Gli LLM gestiscono efficientemente le query sui dati e hanno il potenziale per servire come piattaforme per vari servizi.