Meta apunta con Muse Ember al nuevo campo de batalla de la IA: el coste por tarea del agente

Meta busca reducir los costos de operación de los agentes de IA. El 9 de noviembre, la empresa lanzó Muse Ember, un modelo ligero que realizaría las tareas repetitivas que mantienen ocupados a los agentes de IA. A diferencia de otros, Ember no tiene como objetivo resolver tareas complicadas, sino más bien centrarse en realizar trabajo regular al menor costo posible.

Diseñado para manejar volumen mientras Muse Wonder planifica

Meta construyó Ember para manejar el trabajo rutinario que mantiene funcionando a los agentes de IA. Puede llamar a otras herramientas de software, dirigir solicitudes al sistema adecuado, extraer información de documentos y procesar archivos extensos. Ember también puede manejar trabajos de codificación más pequeños, como ejecutar pruebas y realizar correcciones específicas.

Para tomar decisiones más complejas, Meta utiliza una combinación de Muse Wonder, que es un modelo de razonamiento superior, y Ember. Wonder decide cómo abordar una tarea, mientras que Ember ejecuta las acciones más pequeñas necesarias para completarla. En palabras de Meta:

“Muse Wonder planifica, Muse Ember maneja el volumen.”

Ember es la cuarta iteración de la línea Muse, que sigue a Muse Spark, Muse Glimmer y Muse Wonder. Está disponible para desarrolladores a través de la API de Meta Model y Muse Code. Según su plan de precios, Meta cobra 0,1 $ por cada millón de tokens de entrada, además de 0,004 $ por cada millón de tokens de entrada en caché y 0,5 $ por cada millón de tokens de salida.

Ember viene con una ventana de contexto de un millón de tokens que le permite procesar documentos y bases de código más grandes. También es capaz de manejar imágenes, audio y videos.

Lo que Artificial Analysis encontró cuando probó las afirmaciones

Las pruebas independientes demuestran claramente el alcance de la ventaja de costos de Ember. Según Artificial Analysis, la puntuación del Índice de Inteligencia de Ember es de 36, igual que la de Claude Haiku 5.5. Sin embargo, mientras que Ember cuesta solo 0,14 $ por tarea de evaluación, Claude Haiku cuesta 0,41 $. Las cifras citadas son costos estimados para las pruebas, no cargos fijos pagados por los clientes. Además, Ember obtuvo un 68,1 % en AutomationBench-AA, lo que lo coloca al mismo nivel que el modelo más capaz de Meta, Muse Wonder.

Sin embargo, los resultados de sus pruebas de codificación fueron inconsistentes. Ember obtuvo un mejor rendimiento que Haiku en Terminal-Bench 4.0, con puntuaciones del 40,9 % y del 32,8 %, respectivamente. Pero Haiku superó a Ember en FrontierCode 2.0, con puntuaciones del 34,9 % y del 27,2 %.

Otra área de debilidad de Ember es el conocimiento general. El modelo alcanzó solo una precisión del 21,1 % en AA-Omniscience y omitió responder al 64 % de las consultas. Gracias a su enfoque cuidadoso, Ember logró mantener la puntuación de alucinaciones en el 17,4 %.

Por qué el coste por tarea es la batalla que importa ahora

La reducción de precios de Ember se produce en un momento en el que las empresas replantean su gasto en tecnologías de IA. Gartner prevé que la demanda de agentes y asistentes de IA impulse los gastos hasta los 29.200 millones de dólares en 2026, dentro de un mercado de IA estimado en 2,7 billones de dólares. A medida que aumenta el uso de las tecnologías de IA, BCG anima a las empresas de software a explorar la posibilidad de cobrar por tareas completadas o resultados obtenidos, en lugar de hacerlo únicamente por cada usuario con licencia. Sin embargo, advierte contra el abandono demasiado rápido de los modelos tradicionales de precios por suscripción.

La pregunta más importante es si una IA más barata ofrece mejores rendimientos. McKinsey sostiene que los costes por token no son suficientes para medir el valor empresarial. Los precios más bajos también pueden incentivar a las empresas a utilizar más IA. IDC descubrió que el 67% de las empresas superaron sus presupuestos para agentes. La firma de investigación espera que el coste por acción de agente disminuya un 95% para 2030, incluso cuando los costes totales de entrega de tokens aumenten 487 veces.

Las preguntas sobre ROI, fiabilidad y supervisión

Los primeros socios de Meta han destacado la velocidad de Ember. Dane Knecht, CTO de Cloudflare, afirmó que el modelo funcionaba:

“hasta un 30 % más rápido”

Chak Pothina, responsable de inferencia de You.com, informó:

“un p95 de 2.2 segundos”

Yashodha Bhavnani, ejecutiva de Box, dijo que Ember podía evaluar contratos:

“contra el protocolo de negociación de una empresa, cláusula por cláusula”

Estos resultados son prometedores, pero provienen de pruebas realizadas por socios. Las empresas aún deben evaluar el rendimiento de Ember en sus propias operaciones.

La fiabilidad también va más allá de la velocidad. El Instituto FII cita hallazgos de encuestas que muestran que el 73% de los encuestados está preocupado por la privacidad y seguridad de los datos en la IA. Mientras tanto, una encuesta de McKinsey reveló que solo alrededor del 30% de las organizaciones alcanzaron niveles superiores de madurez en la gobernanza de la IA agente.

Las presiones sobre los costos se extienden más allá de los propios modelos. La reciente venta de bonos por $15 mil millones de Meta destaca el costo de construir infraestructura de IA. Cryptopolitan también ha informado sobre las inversiones crecientes de Meta en centros de datos.