Qwen3.8-Flash-Next en DGX Spark (GB10): Ajustado, Estimación aproximada

Desglose de memoria

Weight artifact

111,39 GiB (119.599.030.080 bytes)

Raw KV cache

0,19 GiB (201.326.592 bytes)

Engine extras / workspace

0,18 GiB–19,95 GiB

Total estimated demand

111,75 GiB–131,53 GiB

Net calculator budget

112,00 GiB

OS / display reserve

16,00 GiB

Remaining vs net budget

-19,53 GiB–0,25 GiB

Que quepa en memoria no prueba que el motor, la cuantización y el sistema funcionen juntos. Compatibilidad no implica buen rendimiento.

Otros archivos publicados en este dispositivo

Mismo modelo, dispositivo y contexto (8192 tokens, 1 secuencia, KV en FP16). Cada fila es un conjunto de archivos de pesos publicado con su motor habitual, ordenado por memoria.

Hipótesis que afectan al resultado

• El contexto pedido cabe en la ventana nativa de 262144 tokens.
• La estimación residente usa el total de parámetros, incluidos expertos MoE inactivos.
• El recuento de parámetros activos es desconocido o no tiene una fuente independiente. Los parámetros activos describen el cómputo enrutado, no la huella residente completa.
• Los bytes de pesos salen solo de los archivos elegidos, no de todas las cuantizaciones del repositorio.
• El tamaño de descarga no es la memoria GPU de pico. El diseño en ejecución y la KV van aparte.
• Archivos contados: Qwen3.8-Flash-Next-Q4_K_M/Qwen3.8-Flash-Next-Q4_K_M-00001-of-00004.gguf, Qwen3.8-Flash-Next-Q4_K_M/Qwen3.8-Flash-Next-Q4_K_M-00002-of-00004.gguf, Qwen3.8-Flash-Next-Q4_K_M/Qwen3.8-Flash-Next-Q4_K_M-00003-of-00004.gguf, Qwen3.8-Flash-Next-Q4_K_M/Qwen3.8-Flash-Next-Q4_K_M-00004-of-00004.gguf.
• Hay componente de visión. La inferencia de texto no incluye encoder ni projector.
• Hay pesos MTP/draft; no entran salvo que se activen.

Páginas relacionadas

• Qwen3.8-Flash-Next
• NVIDIA DGX Spark (GB10, 128 GB unified)
• Calculadora de caché KV
• El tamaño del archivo no es la VRAM en ejecución (inglés)
• Qué hacer si falta memoria (inglés)
• Cuantización y memoria (inglés)
• Metodología

Fuentes

• Qwen3.8-Flash-Next model card — Diseño híbrido. La descarga de expertos no está especificada, y los parámetros activos no son los pesos residentes. El tamaño del archivo es el checkpoint empaquetado.
• config.json — revision de4b8e4d43b917e7706784d8bb445c9af86a3540
• safetensors index — metadata.total_size=359999963128
• Artifact repo unsloth/Qwen3.8-Flash-Next-GGUF
• Artifact repo bartowski/Qwen3.8-Flash-Next-GGUF
• NVIDIA DGX Spark product page — 128 GB de memoria de sistema unificada y coherente. No es VRAM dedicada. La reserva predeterminada cubre el sistema y otros procesos. Varios Spark no forman un solo grupo.
• NVIDIA DGX Spark hardware docs — 128 GB LPDDR5x unified memory on the GB10 Superchip.

Calculadora