A Meta lançou o Muse Spark Open, um modelo multimodal de pesos abertos, segundo um post de lançamento no Hugging Face datado de 15 de outubro de 2026. O Hugging Face o descreve como o modelo de pesos abertos mais capaz já feito nos EUA.
O que é o modelo
O Muse Spark Open é um modelo de mistura de especialistas com cerca de 816 bilhões de parâmetros no total e aproximadamente 42 bilhões ativos a cada token. Cada camada tem 256 especialistas, e o roteador escolhe 8 por token. Ele aceita texto, imagens, áudio e vídeo, e gera apenas texto. A janela de contexto chega a 1 milhão de tokens e vale para todos os tipos de entrada. A Meta o treinou para programação agêntica, ou seja, ler uma base de código, escrever e depurar código e chamar ferramentas. Há suporte a chamada de ferramentas tanto só com texto quanto multimodal.
É o modelo de tamanho completo da série Muse. O Muse Glimmer, um modelo denso pequeno da mesma série, saiu em agosto e foi pensado para uso local. Os dois compartilham tokenizador e vocabulário.
O que é preciso para rodar
Todos os especialistas ficam na memória, então o consumo é o de um modelo de 816B, embora a velocidade se pareça com a de um de 42B. O checkpoint em BF16 tem cerca de 1,5 TB. Há também um checkpoint NVFP4, com precisão de 4 bits, voltado às GPUs NVIDIA Blackwell, com o que o post chama de perda de precisão desprezível.
O post lista várias rotas:
- Transformers: o BF16 roda em quatro nós de oito GPUs H200; o NVFP4 roda em um único nó B200.
- SGLang: aceita texto, imagem, áudio e vídeo; a configuração de referência em NVFP4 usa quatro GPUs GB300.
- vLLM: aceita só texto e imagem, com o checkpoint NVFP4 em GPUs Blackwell. A configuração de exemplo atende um contexto de 128 mil tokens.
- Inference Endpoints: uma receita NVFP4 já validada roda em oito GPUs RTX Pro 6000 com 131.072 tokens de contexto, ou em oito GPUs H200 para os 1.048.576 completos. O endpoint expõe APIs Chat Completions e Responses compatíveis com a OpenAI.
- Macs locais: em um M3 Ultra com 512 GB, uma quantização de 2 bits no llama.cpp usou 304 GB e rodou a 18 tokens por segundo. Uma quantização de 3 bits no MLX ocupou cerca de 344 GB e gerou cerca de 21 tokens por segundo.
Um contexto completo de 1 milhão de tokens soma cerca de 266 GB de cache KV em BF16, pelo cálculo do próprio post.
Raciocínio e ajuste fino
O raciocínio não pode ser desligado. O esforço vai de low a xhigh, com xhigh como padrão, e o post recomenda low para tarefas mais simples, a fim de economizar tokens. Para ajuste fino, o Hugging Face descreve uma execução de LoRA nas camadas de atenção com os especialistas congelados, usando TRL em oito nós de oito GPUs H100.
O trecho da fonte não traz os termos de licença nem resultados de benchmarks. Confira os repositórios do modelo nos dois pontos antes de planejar uso em produção.