Assinaturas da Anthropic e OpenAI oferecem milhares em uso equivalente à API, comprimindo as margens da IA

De acordo com um estudo da empresa de pesquisa SemiAnalysis, parece que duas assinaturas de IA de preço fixo que cobram US$ 200 por mês podem fornecer mais uso do que o sugerido pelo preço real.

Para a OpenAI e a Anthropic, isso levanta a questão: por quanto tempo o acesso subsidiado à tecnologia pode durar enquanto há pressão no mercado para lucrar com a IA?

De acordo com a SemiAnalysis, as assinaturas de ambas as empresas foram compradas e usadas para realizar extenso trabalho de codificação até que a quantidade máxima de trabalho permitida na semana fosse atingida.

O custo dos serviços no plano Claude de US$ 200 da Anthropic equivale a cerca de US$ 8.000 por mês, com base nas taxas padrão da API. No caso do plano de US$ 200 da OpenAI, o custo chegou a cerca de US$ 14.000. A pesquisa foi conduzida e os resultados iniciais foram divulgados em junho. Os resultados adicionais foram divulgados em 23 de agosto.

Por que uma 2,000suposição⟦/N1⟧ de US$ se transformou em cinco dígitos

Os valores são muito mais altos do que muitos no setor acreditavam ser possível. Como reportado pela SemiAnalysis, os insiders da indústria assumiam que uma assinatura de US$ 200 poderia render cerca de US$ 2.000 em tokens em um mês. Mas as pessoas que utilizam totalmente todos os limites semanais podem obter três a sete vezes mais do que isso.

Os planos Max da Anthropic começam em US$ 100 mensais com acesso a 5x ou 20x o uso do Claude Pro. A OpenAI usa uma estrutura de preços quase idêntica, com seu plano de US$ 100 fornecendo 5x o uso do Plus e o plano de US$ 200 fornecendo 20x o uso.

A maioria dos assinantes provavelmente nunca atingirá esses limites superiores. A SemiAnalysis conseguiu isso utilizando uma carga de trabalho de longo prazo extremamente longa que foi executada continuamente, em vez de fazer conversas regulares.

A conta de tokens por trás da codificação agêntica

Isso é significativo, pois os agentes de codificação tendem a ser muito exigentes em número de tokens. A pesquisa conduzida com oito modelos de ponta no SWE-bench Verified demonstrou que a codificação agêntica pode usar cerca de 1.000 vezes mais tokens do que uma pergunta de codificação simples de uma única etapa, com os tokens de entrada liderando o custo.

Estimar o uso é comprovadamente muito difícil. O mesmo estudo descobriu que tarefas concluídas da mesma maneira poderiam ter diferenças no uso que chegavam a 30 vezes no consumo de tokens, sem garantir melhores resultados devido ao maior gasto em tokens.

Existem várias maneiras de reduzir os custos. Em outro estudo de uma empresa independente, o uso extensivo de cache de prompt resultou na redução do custo da API para apenas cerca de US$ 0,57 por cada milhão de tokens, ou até 88,6%. No entanto, os usuários que obtêm US$ 8.000 e US$ 14.000 em uso de API a partir de um plano de assinatura que custa apenas US$ 200 ainda estão recebendo uma quantia considerável.

Onde isso se encaixa no mercado de IA

A pressão aumenta à medida que a rivalidade entre os principais laboratórios se intensifica. Relatórios afirmam que a receita da Anthropic até o Q2 excedeu US$ 11,6 bilhões, mais do que o dobro do ano anterior, enquanto a OpenAI relatou um aumento de 18% na receita para US$ 6,7 bilhões, afirmou um relatório publicado pelo Wall Street Journal, conforme notado por Cryptopolitan. Também houve um aumento na taxa de receita anualizada da Anthropic para mais de US$ 65 bilhões.

O Índice de IA de Agosto da Ramp colocou a Anthropic à frente na adoção empresarial nos EUA, com 43,5% das empresas contra 39,7% da OpenAI. No entanto, o economista-chefe da Ramp, Ara Kharazian, também apontou limites sobre quanto as empresas estão dispostas a gastar: o modelo mais caro da Anthropic, Fable 5, representou apenas 6% dos tokens que os clientes compraram da empresa em seu primeiro mês.

A Gartner também antecipou que o surgimento da IA agêntica pode levar ao aumento dos custos de inferência em mais de cinco vezes até 2028. A empresa, conforme relatado pela Cryptopolitan, definiu essa situação como um “paradoxo da inferência”, já que a queda nas taxas de tokens não implica custos menores; isso se deve ao fato de que os agentes agora usarão significativamente mais tokens.

É isso que torna os números da SemiAnalysis importantes. Se os usuários avançados podem extrair cinco dígitos de uso equivalente à API de um plano de US$ 200, a OpenAI e a Anthropic eventualmente enfrentam uma escolha entre absorver o subsídio ou restringir o acesso. De qualquer forma, a pressão sobre as margens da IA provavelmente aumentará, já que modelos de código aberto mais baratos e cada vez mais capazes dão aos clientes mais alternativas.