Meta, Muse Ember punta sul nuovo campo di battaglia dell'AI: costo per task degli agenti

Meta mira a ridurre i costi di gestione degli agenti IA. Il 9 novembre, l'azienda ha rilasciato Muse Ember, un modello leggero in grado di svolgere le attività ripetitive che occupano gli agenti AI. A differenza di altri, Ember non mira a risolvere compiti complessi, ma si concentra sull'esecuzione di lavori ordinari al costo più basso possibile.

Progettato per gestire il volume mentre Muse Wonder pianifica

Meta ha sviluppato Ember per gestire il lavoro di routine che mantiene attivi gli agenti AI. Può chiamare altri strumenti software, indirizzare le richieste al sistema corretto, estrarre informazioni dai documenti ed elaborare file di grandi dimensioni. Ember può anche gestire piccoli compiti di programmazione, come l'esecuzione di test e la realizzazione di correzioni mirate.

Per prendere decisioni più complesse, Meta utilizza una combinazione di Muse Wonder, un modello di ragionamento superiore, ed Ember. Wonder decide come affrontare un compito, mentre Ember esegue le azioni minori necessarie per completarlo. Secondo Meta:

“Muse Wonder pianifica, Muse Ember gestisce il volume.”

Ember è la quarta iterazione della linea Muse, dopo Muse Spark, Muse Glimmer e Muse Wonder. È accessibile agli sviluppatori tramite l'API Meta Model e Muse Code. Secondo il suo piano di pricing, Meta addebita $0,1 per milione di token in input, $0,004 per milione di token in input memorizzati nella cache e $0,5 per milione di token in output.

Ember è dotato di una finestra di contesto da un milione di token che gli consente di elaborare documenti e codebase di maggiori dimensioni. È inoltre in grado di gestire immagini, audio e video.

Cosa ha scoperto Artificial Analysis durante i test delle affermazioni

Test indipendenti dimostrano chiaramente l'entità del vantaggio economico di Ember. Secondo Artificial Analysis, il punteggio dell'Intelligence Index di Ember è 36, lo stesso di Claude Haiku 5.5. Tuttavia, mentre Ember costa solo $0,14 per attività di benchmark, Claude Haiku costa $0,41. Le cifre indicate sono costi stimati per i test, non tariffe fisse pagate dai clienti. Inoltre, Ember ha ottenuto il 68,1% su AutomationBench-AA, posizionandosi alla pari con il modello più capace di Meta, Muse Wonder.

Tuttavia, i risultati dei test di codifica sono stati incoerenti. Ember ha ottenuto prestazioni migliori rispetto a Haiku su Terminal-Bench 4.0, con punteggi rispettivamente del 40,9% e del 32,8%. Ma Haiku ha avuto le migliori prestazioni rispetto a Ember quando si è trattato di FrontierCode 2.0, con punteggi del 34,9% e del 27,2%.

Un'altra area di debolezza di Ember è la conoscenza generale. Il modello ha ottenuto solo il 21,1% di accuratezza in AA-Omniscience e ha saltato il 64% delle query. Grazie alla sua attitudine cauta, Ember è riuscita a mantenere il punteggio di allucinazione al 17,4%.

Perché il costo per attività è ora la battaglia che conta davvero

La minore incidenza dei prezzi di Ember si colloca in un momento in cui le aziende riconsiderano la spesa per le tecnologie AI. Gartner prevede che la domanda di agenti e assistenti AI spingerà la spesa a 29,2 miliardi di dollari nel 2026, nell'ambito di un mercato AI stimato in 2,7 trilioni di dollari. Con l'aumento dell'utilizzo delle tecnologie AI, BCG incoraggia le aziende software a valutare modelli di fatturazione basati su compiti completati o risultati ottenuti, anziché limitarsi a una tariffazione per utente licenziato. Tuttavia, sconsiglia di abbandonare troppo rapidamente i tradizionali modelli di prezzo in abbonamento.

La domanda più importante è se un'AI più economica garantisca rendimenti migliori. McKinsey sostiene che i soli costi dei token non possono misurare il valore aziendale. Prezzi più bassi potrebbero inoltre incentivare le aziende ad adottare un maggiore utilizzo dell'AI. IDC ha rilevato che il 67% delle imprese ha superato i budget destinati agli agenti. L'azienda di ricerca prevede che i costi per azione dell'agente scenderanno del 95% entro il 2030, nonostante i costi totali per la consegna dei token aumentino di 487 volte.

Le questioni relative al ROI, all'affidabilità e alla supervisione

I primi partner di Meta hanno evidenziato la velocità di Ember. Il CTO di Cloudflare, Dane Knecht, ha dichiarato che il modello ha funzionato:

“fino al 30% più veloce”

Chak Pothina, responsabile delle inferenze di You.com, ha riferito:

“un p95 di 2.2 secondi”

L'esecutiva di Box Yashodha Bhavnani ha affermato che Ember potrebbe valutare i contratti:

“contro il playbook di negoziazione di un'azienda, clausola per clausola”

Questi risultati sono promettenti, ma provengono dai test dei partner. Le aziende devono ancora valutare le prestazioni di Ember nelle proprie operazioni.

L'affidabilità va oltre la velocità. L'Istituto FII cita i risultati di un sondaggio che evidenzia come il 73% degli intervistati sia preoccupato per la privacy e la sicurezza dei dati nell'ambito dell'IA. Nel frattempo, un sondaggio McKinsey ha rilevato che solo circa il 30% delle organizzazioni ha raggiunto livelli più elevati di maturità nella governance dell'agentic AI.

Le pressioni sui costi si estendono oltre i modelli stessi. La recente vendita di bond da 15 miliardi di dollari di Meta evidenzia l'onere legato alla costruzione dell'infrastruttura per l'IA. Cryptopolitan ha inoltre riportato sugli investimenti in espansione dei data center da parte di Meta.