Muse Spark Open: requisitos de VRAM y memoria

Puntos de control concretos, con arquitectura y archivos de pesos con fuente. Official NVFP4 safetensors: 498,97 GiB–500,90 GiB a 8192 tokens, 1 secuencia, KV FP16, vllm.

Este resultado es una estimación, no una traza medida.No verificadoPesos con archivo

Editor y procedencia

ProveedorMeta
Hugging Facemeta-models/Muse-Spark-Open-816B-A42B
Revision0fb02478b02565b2ce7fc57e6051c91172774ac9
Parámetros totales822.036.529.664
Parámetros activos42.000.000.000
Capas62
Cabezas de consulta128
Cabezas KV16 (gqa)
Dimensión de cabeza64
Contexto documentado1.048.576
Integridadpartial · partial

Este MoE declara 822.036.529.664 parámetros totales y 42.000.000.000 activos. El cómputo activo no es la residencia de pesos. La estimación residente usa el total de parámetros, incluidos expertos MoE inactivos.

Capas de memoria de esta estimación

Los bytes del archivo, el KV bruto, los extras del motor y la demanda total van aparte. No es una traza de ejecución.

Weight artifact: 496,41 GiB (533.011.023.472 bytes)
Raw KV cache: 1,94 GiB (2.080.374.784 bytes)
Engine extras / workspace: 0,63 GiB–2,56 GiB
Total estimated demand: 498,97 GiB–500,90 GiB

Archivos contados

Cuantización	Archivos contados	Bytes	Motor	Evidencia
Official BF16 safetensors bf16 Calculadora: Official BF16 safetensors	65 fragmentos safetensors Bytes seleccionados en total: 1.644.333.393.864 (1531,40 GiB / 1644,33 GB) Primer fragmento: model-00001-of-00065.safetensors Último fragmento: model-00065-of-00065.safetensors Ver los 65 archivos de fragmentos `model-00001-of-00065.safetensors` `model-00002-of-00065.safetensors` `model-00003-of-00065.safetensors` `model-00004-of-00065.safetensors` `model-00005-of-00065.safetensors` `model-00006-of-00065.safetensors` `model-00007-of-00065.safetensors` `model-00008-of-00065.safetensors` `model-00009-of-00065.safetensors` `model-00010-of-00065.safetensors` `model-00011-of-00065.safetensors` `model-00012-of-00065.safetensors` `model-00013-of-00065.safetensors` `model-00014-of-00065.safetensors` `model-00015-of-00065.safetensors` `model-00016-of-00065.safetensors` `model-00017-of-00065.safetensors` `model-00018-of-00065.safetensors` `model-00019-of-00065.safetensors` `model-00020-of-00065.safetensors` `model-00021-of-00065.safetensors` `model-00022-of-00065.safetensors` `model-00023-of-00065.safetensors` `model-00024-of-00065.safetensors` `model-00025-of-00065.safetensors` `model-00026-of-00065.safetensors` `model-00027-of-00065.safetensors` `model-00028-of-00065.safetensors` `model-00029-of-00065.safetensors` `model-00030-of-00065.safetensors` `model-00031-of-00065.safetensors` `model-00032-of-00065.safetensors` `model-00033-of-00065.safetensors` `model-00034-of-00065.safetensors` `model-00035-of-00065.safetensors` `model-00036-of-00065.safetensors` `model-00037-of-00065.safetensors` `model-00038-of-00065.safetensors` `model-00039-of-00065.safetensors` `model-00040-of-00065.safetensors` `model-00041-of-00065.safetensors` `model-00042-of-00065.safetensors` `model-00043-of-00065.safetensors` `model-00044-of-00065.safetensors` `model-00045-of-00065.safetensors` `model-00046-of-00065.safetensors` `model-00047-of-00065.safetensors` `model-00048-of-00065.safetensors` `model-00049-of-00065.safetensors` `model-00050-of-00065.safetensors` `model-00051-of-00065.safetensors` `model-00052-of-00065.safetensors` `model-00053-of-00065.safetensors` `model-00054-of-00065.safetensors` `model-00055-of-00065.safetensors` `model-00056-of-00065.safetensors` `model-00057-of-00065.safetensors` `model-00058-of-00065.safetensors` `model-00059-of-00065.safetensors` `model-00060-of-00065.safetensors` `model-00061-of-00065.safetensors` `model-00062-of-00065.safetensors` `model-00063-of-00065.safetensors` `model-00064-of-00065.safetensors` `model-00065-of-00065.safetensors`	1.644.333.393.864 (1531,40 GiB / 1644,33 GB)	`sglang, vllm, unspecified`	`file-metadata`
Official NVFP4 safetensors nvfp4 Calculadora: Official NVFP4 safetensors	127 fragmentos safetensors Bytes seleccionados en total: 533.011.023.472 (496,41 GiB / 533,01 GB) Primer fragmento: model-00001-of-00127.safetensors Último fragmento: model-00127-of-00127.safetensors Ver los 127 archivos de fragmentos `model-00001-of-00127.safetensors` `model-00002-of-00127.safetensors` `model-00003-of-00127.safetensors` `model-00004-of-00127.safetensors` `model-00005-of-00127.safetensors` `model-00006-of-00127.safetensors` `model-00007-of-00127.safetensors` `model-00008-of-00127.safetensors` `model-00009-of-00127.safetensors` `model-00010-of-00127.safetensors` `model-00011-of-00127.safetensors` `model-00012-of-00127.safetensors` `model-00013-of-00127.safetensors` `model-00014-of-00127.safetensors` `model-00015-of-00127.safetensors` `model-00016-of-00127.safetensors` `model-00017-of-00127.safetensors` `model-00018-of-00127.safetensors` `model-00019-of-00127.safetensors` `model-00020-of-00127.safetensors` `model-00021-of-00127.safetensors` `model-00022-of-00127.safetensors` `model-00023-of-00127.safetensors` `model-00024-of-00127.safetensors` `model-00025-of-00127.safetensors` `model-00026-of-00127.safetensors` `model-00027-of-00127.safetensors` `model-00028-of-00127.safetensors` `model-00029-of-00127.safetensors` `model-00030-of-00127.safetensors` `model-00031-of-00127.safetensors` `model-00032-of-00127.safetensors` `model-00033-of-00127.safetensors` `model-00034-of-00127.safetensors` `model-00035-of-00127.safetensors` `model-00036-of-00127.safetensors` `model-00037-of-00127.safetensors` `model-00038-of-00127.safetensors` `model-00039-of-00127.safetensors` `model-00040-of-00127.safetensors` `model-00041-of-00127.safetensors` `model-00042-of-00127.safetensors` `model-00043-of-00127.safetensors` `model-00044-of-00127.safetensors` `model-00045-of-00127.safetensors` `model-00046-of-00127.safetensors` `model-00047-of-00127.safetensors` `model-00048-of-00127.safetensors` `model-00049-of-00127.safetensors` `model-00050-of-00127.safetensors` `model-00051-of-00127.safetensors` `model-00052-of-00127.safetensors` `model-00053-of-00127.safetensors` `model-00054-of-00127.safetensors` `model-00055-of-00127.safetensors` `model-00056-of-00127.safetensors` `model-00057-of-00127.safetensors` `model-00058-of-00127.safetensors` `model-00059-of-00127.safetensors` `model-00060-of-00127.safetensors` `model-00061-of-00127.safetensors` `model-00062-of-00127.safetensors` `model-00063-of-00127.safetensors` `model-00064-of-00127.safetensors` `model-00065-of-00127.safetensors` `model-00066-of-00127.safetensors` `model-00067-of-00127.safetensors` `model-00068-of-00127.safetensors` `model-00069-of-00127.safetensors` `model-00070-of-00127.safetensors` `model-00071-of-00127.safetensors` `model-00072-of-00127.safetensors` `model-00073-of-00127.safetensors` `model-00074-of-00127.safetensors` `model-00075-of-00127.safetensors` `model-00076-of-00127.safetensors` `model-00077-of-00127.safetensors` `model-00078-of-00127.safetensors` `model-00079-of-00127.safetensors` `model-00080-of-00127.safetensors` `model-00081-of-00127.safetensors` `model-00082-of-00127.safetensors` `model-00083-of-00127.safetensors` `model-00084-of-00127.safetensors` `model-00085-of-00127.safetensors` `model-00086-of-00127.safetensors` `model-00087-of-00127.safetensors` `model-00088-of-00127.safetensors` `model-00089-of-00127.safetensors` `model-00090-of-00127.safetensors` `model-00091-of-00127.safetensors` `model-00092-of-00127.safetensors` `model-00093-of-00127.safetensors` `model-00094-of-00127.safetensors` `model-00095-of-00127.safetensors` `model-00096-of-00127.safetensors` `model-00097-of-00127.safetensors` `model-00098-of-00127.safetensors` `model-00099-of-00127.safetensors` `model-00100-of-00127.safetensors` `model-00101-of-00127.safetensors` `model-00102-of-00127.safetensors` `model-00103-of-00127.safetensors` `model-00104-of-00127.safetensors` `model-00105-of-00127.safetensors` `model-00106-of-00127.safetensors` `model-00107-of-00127.safetensors` `model-00108-of-00127.safetensors` `model-00109-of-00127.safetensors` `model-00110-of-00127.safetensors` `model-00111-of-00127.safetensors` `model-00112-of-00127.safetensors` `model-00113-of-00127.safetensors` `model-00114-of-00127.safetensors` `model-00115-of-00127.safetensors` `model-00116-of-00127.safetensors` `model-00117-of-00127.safetensors` `model-00118-of-00127.safetensors` `model-00119-of-00127.safetensors` `model-00120-of-00127.safetensors` `model-00121-of-00127.safetensors` `model-00122-of-00127.safetensors` `model-00123-of-00127.safetensors` `model-00124-of-00127.safetensors` `model-00125-of-00127.safetensors` `model-00126-of-00127.safetensors` `model-00127-of-00127.safetensors`	533.011.023.472 (496,41 GiB / 533,01 GB)	`sglang, vllm, unspecified`	`file-metadata`
INT4 theoretical	No hay archivo publicado	411.018.264.832 (Las filas teóricas no son artefactos descargables.)	—	theoretical

Memoria por cuantización y contexto

Secuencias concurrentes = 1. El KV es FP16 por defecto. El intervalo incluye extras de runtime documentados para el motor indicado. Las cifras usan el mismo núcleo que la calculadora interactiva.

Cuantización	2048 tokens	8192 tokens	32.768 tokens
Official BF16 safetensors	1532,51 GiB–1534,40 GiB	1533,97 GiB–1535,90 GiB	1539,78 GiB–1541,89 GiB
Official NVFP4 safetensors	497,51 GiB–499,40 GiB	498,97 GiB–500,90 GiB	504,78 GiB–506,89 GiB
INT4 theoretical Las filas teóricas no son artefactos descargables.	383,40 GiB–494,18 GiB	384,85 GiB–495,99 GiB	390,67 GiB–503,15 GiB

Caché KV (datos brutos)

El KV bruto de GQA/MHA es 2 × capas × kvHeads × headDim × tokens × secuencias × bytes por elemento. Esta página usa KV heads (16), no query heads (128).

8,192 tokens, 1 sequence, FP16: 2.080.374.784 bytes (1,9375 GiB)
32,768 tokens: 8.321.499.136 bytes (7,7500 GiB)

Abrir la calculadora con este modelo

Páginas relacionadas

Fuentes

Muse Spark Open model card — Gated (manual). Card: 816B total / 42B active, 1M context, MoE transformer with Perception Encoder, 62 layers, GQA 128 Q / 16 KV, head dim 64, hidden 8192, 256 experts top-8, vocab 202,048. Open weights require at least 700 GB VRAM for NVFP4 and 2 TB for BF16. Optimized for two Mac Studios with M5 Ultra using MLX.
Hugging Face API (BF16) — sha 0fb02478b02565b2ce7fc57e6051c91172774ac9; gated manual; safetensors.total=822036529664; 65 safetensors siblings sum 1644333393864 bytes. config.json HTTP 401.
Hugging Face API (NVFP4) — sha 4239e4db19376904f2e82c167e78f70abb5455fe; 127 safetensors siblings sum 533011023472 bytes.
Meta Get the model — BF16 about 1.65 TB, TP8/EP8 on 8 × B300. NVFP4 about 537 GB, TP4/EP4 on 4 × B300.
Meta research blog — 2026-10-15. Two Apple M5 Ultra Mac Studios; 512 GB unified memory per Studio; 1.2 TB/s bandwidth quoted by Meta.
PyTorch blog — Open weights 2026-10-15 under the Muse Model License. 816B total / 42B active, 1M context.

Hipótesis que afectan al resultado

El contexto pedido cabe en la ventana nativa de 1048576 tokens.
La estimación residente usa el total de parámetros, incluidos expertos MoE inactivos.
Este MoE declara 822036529664 parámetros totales y 42000000000 activos. El cómputo activo no es la residencia de pesos.
Los bytes de pesos salen solo de los archivos elegidos, no de todas las cuantizaciones del repositorio.
El tamaño de descarga no es la memoria GPU de pico. El diseño en ejecución y la KV van aparte.
Los bytes de pesos provienen de 127 fragmentos safetensors publicados que suman 533011023472 bytes.
Hay componente de visión. La inferencia de texto no incluye encoder ni projector.
El contexto es el número de tokens en caché por secuencia (entrada más generación reservada).

Calculadora

Cargando la instantánea del catálogo…

Elige primero un modelo y después revisa el equipo.

Modelo

Mostrar modelos históricos

Cuantización

Tipo de dispositivo

Hardware

Carga

La longitud de contexto afecta sobre todo a la memoria de la caché KV.

Ajustes avanzados

Ejecución

Motor y tipo de caché KV de esta estimación.

MotorTipo de caché KVDtype de estado recurrente / conv Incluir estimaciones teóricas (experto) Permitir un sustituto si el filtro no tiene coincidencia

Carga

Escenario de sobrecarga y el espacio de prellenado.

Escenario de sobrecoste en tiempo de ejecución Incluir un espacio de trabajo de prefill más pesado

Topología

Cómo se reparte el modelo entre dispositivos. La memoria no se suma.

DesplieguePartición intra-réplicaNúmero de dispositivos

El número de réplicas es avanzado. La cantidad son nodos o GPUs, no réplicas.

Grupos de réplicasDispositivos por réplica

Presupuesto

Reserva del sistema y margen de seguridad. Un número vacío conserva el valor anterior.

Reserva para sistema / pantalla

GiB (2^30 bytes)

El presupuesto ya descuenta la reserva del sistemaMargen de seguridad extra

Bits efectivos por parámetro (personalizado)Unidad de visualización

Modelo personalizado

Importe una config o escriba la arquitectura. No se escanea nada hasta importar.

Importar config.json local

Se analiza en el navegador. El archivo no se sube.

Repo público de Hugging FaceRevisión

Solo huggingface.co, solo config.json, sin token. Se rechazan repos privados.

Parámetros totalesParámetros activosCapasCabezas de consultaCabezas KVDimensión de cabeza

Busque o elija un modelo del catálogo para ver la VRAM necesaria de un LLM en local.

Busque o elija un modelo del catálogo para ver la VRAM necesaria de un LLM en local.