Meta ha publicado Muse Spark Open, un modelo multimodal de pesos abiertos, según una entrada de lanzamiento en Hugging Face fechada el 15 de octubre de 2026. Hugging Face lo describe como el modelo de pesos abiertos estadounidense más capaz hasta la fecha.
Qué es el modelo
Muse Spark Open es un modelo de mezcla de expertos con unos 816.000 millones de parámetros en total y alrededor de 42.000 millones activos por cada token. Cada capa tiene 256 expertos y el enrutador elige 8 por token. Acepta texto, imágenes, audio y vídeo, y genera únicamente texto. La ventana de contexto llega a un millón de tokens y abarca todos los tipos de entrada. Meta lo entrenó para programación con agentes: leer un repositorio, escribir y depurar código y llamar a herramientas. Admite llamada a herramientas tanto solo con texto como multimodal.
Es el modelo de tamaño completo de la serie Muse. Muse Glimmer, un modelo denso y pequeño de la misma serie, salió en agosto y está pensado para uso local. Ambos comparten tokenizador y vocabulario.
Qué hace falta para ejecutarlo
Todos los expertos permanecen en memoria, de modo que el consumo es el de un modelo de 816B aunque la velocidad se parezca a la de uno de 42B. El checkpoint en BF16 pesa cerca de 1,5 TB. Existe además un checkpoint NVFP4, con precisión de 4 bits, dirigido a las GPU NVIDIA Blackwell, con una pérdida de precisión que la entrada califica de insignificante.
La entrada enumera varias vías:
- Transformers: BF16 funciona en cuatro nodos de ocho GPU H200; NVFP4, en un único nodo B200.
- SGLang: admite texto, imagen, audio y vídeo; la configuración de referencia con NVFP4 usa cuatro GPU GB300.
- vLLM: solo admite texto e imagen, con el checkpoint NVFP4 en GPU Blackwell. La configuración de ejemplo sirve un contexto de 128K tokens.
- Inference Endpoints: una receta NVFP4 ya validada corre en ocho GPU RTX Pro 6000 con 131.072 tokens de contexto, o en ocho GPU H200 con los 1.048.576 completos. El endpoint ofrece las API compatibles con OpenAI Chat Completions y Responses.
- Mac en local: en un M3 Ultra con 512 GB, una cuantización de 2 bits con llama.cpp ocupó 304 GB y alcanzó 18 tokens por segundo. Una cuantización MLX de 3 bits necesitó unos 344 GB y generó unos 21 tokens por segundo.
Según el cálculo de la propia entrada, un contexto completo de un millón de tokens añade unos 266 GB de caché KV en BF16.
Razonamiento y ajuste fino
El razonamiento no se puede desactivar. El esfuerzo va de low a xhigh, con xhigh por defecto, y la entrada recomienda low para tareas sencillas y así ahorrar tokens. Para el ajuste fino, Hugging Face describe una ejecución con LoRA sobre las capas de atención, con los expertos congelados, usando TRL en ocho nodos de ocho GPU H100.
El extracto no cubre las condiciones de licencia ni los resultados de pruebas comparativas, así que conviene revisar ambos en los repositorios del modelo antes de planificar un uso en producción.