Meta's Muse Ember mira novo campo de batalha da IA: custo por tarefa de agente

A Meta visa reduzir os custos de operação de agentes de IA. Em 9 de novembro, a empresa lançou Muse Ember, um modelo leve que realizaria as tarefas repetitivas que mantêm os agentes de IA ocupados. Diferente de outros, o Ember não visa resolver tarefas complicadas, mas sim focar em realizar trabalho regular ao menor custo possível.

Projetado para lidar com volume enquanto o Muse Wonder planeja

A Meta construiu o Ember para lidar com o trabalho rotineiro que mantém os agentes de IA funcionando. Ele pode chamar outras ferramentas de software, direcionar solicitações ao sistema correto, extrair informações de documentos e processar arquivos extensos. O Ember também pode lidar com pequenas tarefas de programação, como executar testes e fazer correções específicas.

Para tomar decisões mais complexas, a Meta usa uma combinação do Muse Wonder, que é um modelo de raciocínio superior, e do Ember. O Wonder decide como abordar uma tarefa, enquanto o Ember executa as ações menores necessárias para concluí-la. Nas palavras da Meta:

“O Muse Wonder planeja, o Muse Ember lida com o volume.”

Ember é a quarta iteração da linha Muse, seguindo Muse Spark, Muse Glimmer e Muse Wonder. Está disponível para desenvolvedores por meio da Meta Model API e do Muse Code. De acordo com seu plano de preços, a Meta cobra US$ 0,1 por milhão de tokens de entrada, além de US$ 0,004 por milhão de tokens de entrada em cache e US$ 0,5 por milhão de tokens de saída.

O Ember vem com uma janela de contexto de um milhão de tokens que permite processar documentos e bases de código maiores. Ele também é capaz de lidar com imagens, áudio e vídeos.

O que a Artificial Analysis descobriu ao testar as alegações

Testes independentes demonstram claramente a extensão da vantagem de custo do Ember. Segundo a Artificial Analysis, o Índice de Inteligência do Ember é 36, o mesmo do Claude Haiku 5.5. No entanto, enquanto o Ember custa apenas US$ 0,14 por tarefa de benchmark, o Claude Haiku custa US$ 0,41. Os valores citados são custos estimados para os testes, não taxas fixas pagas pelos clientes. Além disso, o Ember obteve 68,1% no AutomationBench-AA, ficando em pé de igualdade com o modelo mais capaz da Meta, o Muse Wonder.

No entanto, os resultados dos testes de codificação foram inconsistentes. O Ember teve um desempenho melhor que o Haiku no Terminal-Bench 4.0, com pontuações de 40,9% e 32,8%, respectivamente. Mas o Haiku performou melhor que o Ember no FrontierCode 2.0, com pontuações de 34,9% e 27,2%.

Outra área de fraqueza do Ember é o conhecimento geral. O modelo obteve apenas 21,1% de precisão no AA-Omniscience e deixou de responder a 64% das consultas. Graças à sua postura cuidadosa, o Ember conseguiu manter a pontuação de alucinação em 17,4%.

Por que o custo por tarefa é a batalha que importa agora

A precificação mais baixa da Ember ocorre num momento em que as empresas reconsideram os seus gastos em tecnologias de IA. Gartner prevê que a procura por agentes e assistentes de IA impulsionará os gastos para 29,2 mil milhões de dólares em 2026, integrando-se num mercado de IA com previsão de valorização de 2,7 mil milhões de dólares. À medida que o uso de tecnologias de IA aumenta, BCG incentiva as empresas de software a explorar a cobrança por tarefas concluídas ou resultados obtidos, em vez de simplesmente por cada utilizador licenciado. No entanto, alerta contra a abandono prematuro dos modelos tradicionais de preços por subscrição.

A questão mais relevante é saber se uma IA mais económica proporciona melhores retornos. McKinsey argumenta que os custos das tokens, por si só, não conseguem medir o valor empresarial. Preços mais baixos podem também incentivar as empresas a utilizar mais IA. IDC verificou que 67% das empresas ultrapassaram os respetivos orçamentos para agentes. A empresa de investigação espera que os custos por ação do agente diminuam 95% até 2030, mesmo que os custos totais de entrega de tokens aumentem 487 vezes.

As questões de ROI, confiabilidade e supervisão

Os primeiros parceiros da Meta destacaram a velocidade do Ember. O CTO da Cloudflare, Dane Knecht, afirmou que o modelo operava:

“até 30% mais rápido”

O líder de inferência da You.com, Chak Pothina, relatou:

“uma p95 de 2.2 segundos”

A executiva da Box, Yashodha Bhavnani, disse que o Ember poderia avaliar contratos:

“contra o manual de negociação de uma empresa, cláusula por cláusula”

Esses resultados são promissores, mas vêm de testes de parceiros. As empresas ainda precisam avaliar o desempenho do Ember em suas próprias operações.

A confiabilidade também vai além da velocidade. O Instituto FII cita resultados de pesquisas que mostram que 73% dos entrevistados estão preocupados com a privacidade e a segurança dos dados na IA. Enquanto isso, uma pesquisa da McKinsey revelou que apenas cerca de 30% das organizações alcançaram níveis mais elevados de maturidade na governança de IA agêntica.

As pressões sobre os custos vão além dos próprios modelos. A recente venda de títulos no valor de US$ 15 bilhões pela Meta destaca o custo de construir infraestrutura de IA. A Cryptopolitan também reportou sobre os investimentos em expansão de data centers da Meta.