Gli abbonamenti Anthropic e OpenAI offrono migliaia di dollari di utilizzo equivalente API, comprimendo i margini dell'IA

Secondo uno studio della società di ricerca SemiAnalysis, sembra che due abbonamenti AI a tariffa fissa che costano 200 dollari al mese possano fornire più utilizzo di quanto suggerito dal prezzo effettivo.

Per OpenAI e Anthropic, questo pone la domanda: per quanto tempo può durare l'accesso sovvenzionato alla tecnologia mentre c'è pressione sul mercato per trarre profitto dall'IA?

Secondo SemiAnalysis, gli abbonamenti di entrambe le aziende sono stati acquistati e utilizzati per eseguire estesi lavori di codifica fino a raggiungere la quantità massima di lavoro consentita nella settimana.

Il costo dei servizi sul piano Claude da 200 dollari di Anthropic ammonta a circa 8.000 dollari al mese in base ai tassi standard dell'API. Nel caso del piano da 200 dollari di OpenAI, il costo ha raggiunto circa 14.000 dollari. La ricerca è stata condotta e gli risultati iniziali sono stati pubblicati a giugno. Gli risultati aggiuntivi sono stati pubblicati il 23 agosto.

Perché un'2,000assunzione⟦/N1⟧ è diventata cinque cifre

Le cifre sono molto più alte di quanto molti nel settore ritenessero possibile. Come riportato da SemiAnalysis, gli addetti ai lavori assumevano che un abbonamento da 200 dollari potesse generare circa 2.000 dollari di token in un mese. Ma le persone che utilizzano pienamente tutti i limiti settimanali possono ottenere da tre a sette volte tanto.

I piani Max di Anthropic partono da 100 dollari al mese con accesso a 5x o 20x l'utilizzo di Claude Pro. OpenAI utilizza una struttura di prezzo quasi identica, con il suo piano da 100 dollari che fornisce 5x l'utilizzo di Plus e il piano da 200 dollari che fornisce 20x l'utilizzo.

La maggior parte degli abbonati molto probabilmente non raggiungerà mai quei limiti superiori. SemiAnalysis ci è riuscita utilizzando un carico di lavoro a lunghissimo termine che è stato eseguito continuamente invece di fare conversazioni regolari.

Il conto dei token dietro la codifica agenziale

Questo è significativo poiché gli agenti di codifica tendono a essere molto esigenti in termini di numero di token. La ricerca condotta con otto modelli all'avanguardia su SWE-bench Verified ha dimostrato che la codifica agenziale può utilizzare circa 1.000 volte più token rispetto a una semplice domanda di codifica a turno singolo, con i token di input che guidano il costo.

Stimare l'utilizzo si è rivelato molto difficile. Lo stesso studio ha scoperto che le attività completate nello stesso modo potevano avere differenze nell'utilizzo che arrivavano a 30 volte nel consumo di token, senza garantire risultati migliori a causa della maggiore spesa in token.

Ci sono diversi modi per ridurre i costi. In un altro studio di una società indipendente, l'uso massiccio di prompt caching ha portato il costo dell'API a circa 0,57 dollari per ogni milione di token, o addirittura del 88,6%. Tuttavia, gli utenti che ottengono 8.000 e 14.000 dollari di utilizzo API da un piano di abbonamento che costa solo 200 dollari stanno comunque ottenendo un'allocazione piuttosto cospicua.

Dove questo si inserisce nel mercato dell'IA

La pressione aumenta mentre la rivalità tra i principali laboratori si indurisce. I rapporti affermano che i ricavi di Anthropic al Q2 hanno superato i 11,6 miliardi di dollari, più del doppio rispetto all'anno precedente, mentre OpenAI ha riportato un aumento del 18% dei ricavi a 6,7 miliardi di dollari, ha dichiarato un rapporto pubblicato dal Wall Street Journal come notato da Cryptopolitan. C'è stato anche un aumento del tasso di ricavi annualizzati di Anthropic a oltre 65 miliardi di dollari.

L'indice AI di agosto di Ramp ha messo Anthropic in testa all'adozione aziendale negli Stati Uniti, con il 43,5% delle aziende contro il 39,7% per OpenAI. Eppure l'economista capo di Ramp, Ara Kharazian, ha anche sottolineato i limiti su quanto le aziende siano disposte a spendere: il modello più costoso di Anthropic, Fable 5, ha rappresentato solo il 6% dei token che i clienti hanno acquistato dall'azienda nel suo primo mese.

Gartner ha anche previsto che l'emergere dell'IA agenziale potrebbe portare all'aumento dei costi di inferenza di oltre cinque volte entro il 2028. La società, come riportato da Cryptopolitan, ha definito questa situazione un "paradosso dell'inferenza" in quanto i tassi in calo dei token non implicano costi inferiori; questo è dovuto al fatto che gli agenti ora utilizzeranno significativamente più token.

È questo che rende importanti i numeri di SemiAnalysis. Se gli utenti avanzati possono estrarre cinque cifre di utilizzo equivalente API da un piano da 200 dollari, OpenAI e Anthropic alla fine affrontano una scelta tra assorbire la sovvenzione e restringere l'accesso. In ogni caso, la pressione sui margini dell'IA è probabilmente destinata a crescere mentre modelli open-source più economici e sempre più capaci offrono ai clienti più alternative.