Come gli ingegneri di prompt IA guadagnano incredibilmente oltre 300k in finanza, sanità o diritto

L'ingegnere di prompt IA è il grande argomento del momento e un individuo può guadagnare fino a 335.000 dollari all'anno – senza alcuna laurea in ingegneria informatica o competenze avanzate di codifica. I modelli linguistici di grandi dimensioni (LLM) come ChatGPT e Bard sono potenti, ma il loro potere è meglio sfruttato da persone con esperienza su come funzionano. "Un po' come tutto nella vita", ha scherzato un aspirante alla posizione. Le grandi aziende stanno assumendo persone per dare un senso ai LLM e ottenere il massimo dalla tecnologia IA. Questi lavori potrebbero essere per ingegneri di prompt con esperienza generale, o per persone con competenze più specifiche del settore, come nei campi della finanza, della sanità o del diritto. Ecco consigli cruciali per gli aspiranti.

Un recente documento di ricerca dell'Università di Stanford, in collaborazione con l'Università della California, Berkeley, e l'azienda di ricerca Samaya AI, evidenzia l'importanza dell'ingegneria dei prompt per migliorare le prestazioni dei modelli IA. Lo studio rivela che la lunghezza dei prompt forniti ai modelli IA influisce significativamente sulla loro capacità di eseguire comandi con precisione. Comprendere queste informazioni cruciali può portare a interazioni più impattanti con l'IA, specialmente nel settore finanziario, dove le principali istituzioni finanziarie assumono ricercatori IA con stipuli superiori a 300k per esplorare le capacità dei bot IA.

La sfida della lunghezza del prompt sui modelli IA

La ricerca sottolinea che i modelli linguistici, principalmente basati su Transformer, faticano con le sequenze lunghe, portando a difficoltà nell'elaborare prompt lunghi. La "finestra di contesto" di un modello linguistico, che considera le parole circostanti un termine chiave quando genera risposte, è cruciale in questo contesto. Lo studio identifica una "curva a U distintiva" nell'accuratezza dei modelli linguistici, dove le informazioni più vicine al centro di un prompt tendono a essere ignorate, influenzando le prestazioni del modello. L'implicazione è che, sebbene le informazioni all'inizio e alla fine dei prompt siano ancora utili, i dati cruciali al centro potrebbero essere trascurati.

Superare i limiti dei transformer

La scarsa scalabilità dei Transformer alle sequenze lunghe rappresenta una sfida per l'ingegneria dei prompt. L'aumento della dimensione della finestra di contesto, che gli scienziati di Meta avevano esplorato attraverso l'Interpolazione della Posizione, potrebbe sembrare una soluzione. Tuttavia, lo studio di Stanford rivela che quando l'intero prompt supera la capacità della finestra, i risultati mostrano una curva "quasi sovrapposta", indicando un miglioramento limitato nelle prestazioni del modello.

Istituzioni finanziarie che sfruttano la ricerca IA

Al di là degli ambienti accademici, le principali istituzioni finanziarie stanno investendo attivamente nella ricerca IA per esplorare le capacità dei bot IA nelle loro operazioni. Bloomberg sta attualmente sviluppando BloombergGPT e assumendo più ricercatori senior IA con stipuli che superano i 300k. JPMorgan sta anche aumentando significativamente l'assunzione di personale focalizzato sull'IA per ruoli di produzione e ricerca, enfatizzando in particolare lo sviluppo del suo bot di consigli finanziari, IndexGPT. Per avere successo in questi ruoli, i candidati devono comprendere l'importanza dell'ingegneria dei prompt e il suo impatto sulle prestazioni dei modelli IA.

Il ruolo degli ingegneri di prompt IA nella finanza

L'ingegneria dei prompt ha un enorme potenziale nel settore finanziario, dove i bot IA possono avere un impatto significativo sui flussi di lavoro, sulla gestione del rischio e sul servizio clienti. Ottimizzando le strutture dei prompt, le istituzioni finanziarie possono migliorare le capacità dei bot IA di analizzare ed elaborare i dati con precisione, portando a decisioni più informate e a esperienze clienti migliori.

Utilizzo di sottotitoli per un'ingegneria dei prompt impattante

1. Comprendere l'impatto della lunghezza del prompt: Lo studio di Stanford illumina su come i prompt influenzano le prestazioni del modello IA, esortando gli ingegneri di prompt a trovare un equilibrio tra informazioni rilevanti e brevità del prompt.

2. La sfida dei transformer e della finestra di contesto: I limiti dei Transformer nel gestire sequenze lunghe pongono sfide significative per l'ingegneria dei prompt, rendendo cruciale ottimizzare la dimensione della finestra di contesto per interazioni IA efficaci.

3. Il fenomeno della curva a U: La ricerca rivela il modello a curva a U dell'accuratezza nei modelli linguistici, sottolineando la necessità di posizionare le informazioni critiche lontano dal centro dei prompt per migliorare le prestazioni dell'IA.

4. Superare il dilemma del transformer: Sebbene l'aumento della dimensione della finestra di contesto appaia promettente, lo studio evidenzia le potenziali limitazioni quando i prompt superano la capacità della finestra, rendendo necessari approcci innovativi all'ingegneria dei prompt.

5. Ricerca IA nel settore finanziario: Le istituzioni finanziarie stanno abbracciando la ricerca IA e assumendo ricercatori senior IA con stipuli competitivi per esplorare le capacità dei bot IA, specialmente nel migliorare i consigli finanziari e la gestione del rischio.

6. Sbloccare il potenziale dell'IA: Abbracciando un'ingegneria dei prompt impattante, il settore finanziario può sfruttare i bot IA per semplificare i flussi di lavoro, ottimizzare la valutazione del rischio e migliorare il servizio clienti, contribuendo a una maggiore efficienza e competitività.

L'ingegneria dei prompt è un aspetto fondamentale delle interazioni IA, influenzando significativamente le prestazioni dei modelli linguistici. Man mano che le istituzioni finanziarie continuano a investire nella ricerca IA, l'ottimizzazione delle strutture dei prompt diventa sempre più cruciale per sbloccare il pieno potenziale dei bot IA. I professionisti possono sfruttare la tecnologia IA per trasformare il settore finanziario e guidare un maggiore successo in un panorama digitale in rapida evoluzione, comprendendo le sfide e le opportunità nell'ingegneria dei prompt.

Parole di cautela

Pensate di cambiare corso a metà del vostro percorso di studi? Qualcuno ha avvertito che è troppo presto per sapere se un lavoro di ingegnere di prompt abbia potere di permanenza e potenziale a lungo termine. Ricordate non molto tempo fa quando tutti nella Silicon Valley stavano abbandonando i loro lavori tecnologici "tradizionali" per entrare nelle criptovalute, NFT, Web 3.0 e nel Metaverso? Molti di quei lavori non hanno dato i frutti sperati e i lavori di ingegneria dei prompt potrebbero finire allo stesso modo. L'IA sta diventando più intelligente con i ritocchi degli sviluppatori IA e presto sarà in grado di generare autonomamente i prompt in futuro, eliminando la necessità di molto prompting da parte degli umani. AutoGPT si sta già muovendo in quella direzione.

Nel tempo, l'ingegneria dei prompt potrebbe perdere la sua novità, rendendo meno probabile che abbiamo bisogno di "esperti" in questo settore. È anche del tutto possibile che l'intera industria dell'IA produca elementi devianti — come accade in tutte le cose competitive e ad alto rischio — e imploda su se stessa. Quindi, fate attenzione con le vostre scelte di vita.