Qwen3.8-Flash-Next: VRAM necesaria 131,53 GiB

VRAM necesaria 111,75 GiB–131,53 GiB. Qwen3.8-Flash-Next Q4_K_M a 8192 tokens. Sin GPU, esto es demanda de un LLM en local, no si cabe. Estimación aproximada Archivo BF16: 359.999.963.128 bytes.

El checkpoint Qwen/Qwen3.8-Flash-Next trae en este catálogo BF16 safetensors de 359.999.963.128 bytes (335,28 GiB / 360,00 GB). Ese tamaño de descarga no es la VRAM pico, y las cifras de abajo son estimaciones.

Puntos de control concretos, con arquitectura y archivos de pesos con fuente. GGUF Q4_K_M (bartowski): 111,75 GiB–131,53 GiB a 8192 tokens, 1 secuencia, KV FP16, llama.cpp.

Este resultado es una estimación, no una traza medida.No verificadoPesos con archivo

Dónde corre

¿Puede Qwen3.8-Flash-Next ejecutarse en DGX Spark (GB10)?

Editor y procedencia

ProveedorQwen
Hugging FaceQwen/Qwen3.8-Flash-Next
Revisionde4b8e4d43b917e7706784d8bb445c9af86a3540
Parámetros totales179.999.981.459
Parámetros activosDesconocido / sin fuente independiente
Capas48
Cabezas de consulta24
Cabezas KV2 (hybrid)
Dimensión de cabeza256
Contexto documentado262.144
Integridadpartial · partial

El recuento de parámetros activos es desconocido o no tiene una fuente independiente. Los parámetros activos describen el cómputo enrutado, no la huella residente completa.

Capas de memoria de esta estimación

Los bytes del archivo, el KV bruto, los extras del motor y la demanda total van aparte. No es una traza de ejecución.

Weight artifact: 111,39 GiB (119.599.030.080 bytes)
Raw KV cache: 0,19 GiB (201.326.592 bytes)
Engine extras / workspace: 0,18 GiB–19,95 GiB
Total estimated demand: 111,75 GiB–131,53 GiB

Archivos contados

Cuantización	Archivos contados	Bytes	Motor	Evidencia
BF16 safetensors bf16 Calculadora: BF16 safetensors	131 fragmentos safetensors Bytes seleccionados en total: 359.999.963.128 (335,28 GiB / 360,00 GB) Primer fragmento: model-00001-of-00131.safetensors Último fragmento: model-00131-of-00131.safetensors Ver los 131 archivos de fragmentos `model-00001-of-00131.safetensors` `model-00002-of-00131.safetensors` `model-00003-of-00131.safetensors` `model-00004-of-00131.safetensors` `model-00005-of-00131.safetensors` `model-00006-of-00131.safetensors` `model-00007-of-00131.safetensors` `model-00008-of-00131.safetensors` `model-00009-of-00131.safetensors` `model-00010-of-00131.safetensors` `model-00011-of-00131.safetensors` `model-00012-of-00131.safetensors` `model-00013-of-00131.safetensors` `model-00014-of-00131.safetensors` `model-00015-of-00131.safetensors` `model-00016-of-00131.safetensors` `model-00017-of-00131.safetensors` `model-00018-of-00131.safetensors` `model-00019-of-00131.safetensors` `model-00020-of-00131.safetensors` `model-00021-of-00131.safetensors` `model-00022-of-00131.safetensors` `model-00023-of-00131.safetensors` `model-00024-of-00131.safetensors` `model-00025-of-00131.safetensors` `model-00026-of-00131.safetensors` `model-00027-of-00131.safetensors` `model-00028-of-00131.safetensors` `model-00029-of-00131.safetensors` `model-00030-of-00131.safetensors` `model-00031-of-00131.safetensors` `model-00032-of-00131.safetensors` `model-00033-of-00131.safetensors` `model-00034-of-00131.safetensors` `model-00035-of-00131.safetensors` `model-00036-of-00131.safetensors` `model-00037-of-00131.safetensors` `model-00038-of-00131.safetensors` `model-00039-of-00131.safetensors` `model-00040-of-00131.safetensors` `model-00041-of-00131.safetensors` `model-00042-of-00131.safetensors` `model-00043-of-00131.safetensors` `model-00044-of-00131.safetensors` `model-00045-of-00131.safetensors` `model-00046-of-00131.safetensors` `model-00047-of-00131.safetensors` `model-00048-of-00131.safetensors` `model-00049-of-00131.safetensors` `model-00050-of-00131.safetensors` `model-00051-of-00131.safetensors` `model-00052-of-00131.safetensors` `model-00053-of-00131.safetensors` `model-00054-of-00131.safetensors` `model-00055-of-00131.safetensors` `model-00056-of-00131.safetensors` `model-00057-of-00131.safetensors` `model-00058-of-00131.safetensors` `model-00059-of-00131.safetensors` `model-00060-of-00131.safetensors` `model-00061-of-00131.safetensors` `model-00062-of-00131.safetensors` `model-00063-of-00131.safetensors` `model-00064-of-00131.safetensors` `model-00065-of-00131.safetensors` `model-00066-of-00131.safetensors` `model-00067-of-00131.safetensors` `model-00068-of-00131.safetensors` `model-00069-of-00131.safetensors` `model-00070-of-00131.safetensors` `model-00071-of-00131.safetensors` `model-00072-of-00131.safetensors` `model-00073-of-00131.safetensors` `model-00074-of-00131.safetensors` `model-00075-of-00131.safetensors` `model-00076-of-00131.safetensors` `model-00077-of-00131.safetensors` `model-00078-of-00131.safetensors` `model-00079-of-00131.safetensors` `model-00080-of-00131.safetensors` `model-00081-of-00131.safetensors` `model-00082-of-00131.safetensors` `model-00083-of-00131.safetensors` `model-00084-of-00131.safetensors` `model-00085-of-00131.safetensors` `model-00086-of-00131.safetensors` `model-00087-of-00131.safetensors` `model-00088-of-00131.safetensors` `model-00089-of-00131.safetensors` `model-00090-of-00131.safetensors` `model-00091-of-00131.safetensors` `model-00092-of-00131.safetensors` `model-00093-of-00131.safetensors` `model-00094-of-00131.safetensors` `model-00095-of-00131.safetensors` `model-00096-of-00131.safetensors` `model-00097-of-00131.safetensors` `model-00098-of-00131.safetensors` `model-00099-of-00131.safetensors` `model-00100-of-00131.safetensors` `model-00101-of-00131.safetensors` `model-00102-of-00131.safetensors` `model-00103-of-00131.safetensors` `model-00104-of-00131.safetensors` `model-00105-of-00131.safetensors` `model-00106-of-00131.safetensors` `model-00107-of-00131.safetensors` `model-00108-of-00131.safetensors` `model-00109-of-00131.safetensors` `model-00110-of-00131.safetensors` `model-00111-of-00131.safetensors` `model-00112-of-00131.safetensors` `model-00113-of-00131.safetensors` `model-00114-of-00131.safetensors` `model-00115-of-00131.safetensors` `model-00116-of-00131.safetensors` `model-00117-of-00131.safetensors` `model-00118-of-00131.safetensors` `model-00119-of-00131.safetensors` `model-00120-of-00131.safetensors` `model-00121-of-00131.safetensors` `model-00122-of-00131.safetensors` `model-00123-of-00131.safetensors` `model-00124-of-00131.safetensors` `model-00125-of-00131.safetensors` `model-00126-of-00131.safetensors` `model-00127-of-00131.safetensors` `model-00128-of-00131.safetensors` `model-00129-of-00131.safetensors` `model-00130-of-00131.safetensors` `model-00131-of-00131.safetensors`	359.999.963.128 (335,28 GiB / 360,00 GB)	`vllm, sglang, unspecified`	`file-metadata`
GGUF Q8_0 (Unsloth) gguf-q8_0 Calculadora: GGUF Q8_0 (Unsloth)	6 fragmentos safetensors Bytes seleccionados en total: 188.225.033.248 (175,30 GiB / 188,23 GB) Primer fragmento: Q8_0/Qwen3.8-Flash-Next-Q8_0-00001-of-00006.gguf Último fragmento: Q8_0/Qwen3.8-Flash-Next-Q8_0-00006-of-00006.gguf Ver los 6 archivos de fragmentos `Q8_0/Qwen3.8-Flash-Next-Q8_0-00001-of-00006.gguf` `Q8_0/Qwen3.8-Flash-Next-Q8_0-00002-of-00006.gguf` `Q8_0/Qwen3.8-Flash-Next-Q8_0-00003-of-00006.gguf` `Q8_0/Qwen3.8-Flash-Next-Q8_0-00004-of-00006.gguf` `Q8_0/Qwen3.8-Flash-Next-Q8_0-00005-of-00006.gguf` `Q8_0/Qwen3.8-Flash-Next-Q8_0-00006-of-00006.gguf`	188.225.033.248 (175,30 GiB / 188,23 GB)	`llama.cpp, ollama, unspecified`	`file-metadata`
GGUF Q4_K_M (bartowski) gguf-q4_k_m Calculadora: GGUF Q4_K_M (bartowski)	Qwen3.8-Flash-Next-Q4_K_M/Qwen3.8-Flash-Next-Q4_K_M-00001-of-00004.gguf, Qwen3.8-Flash-Next-Q4_K_M/Qwen3.8-Flash-Next-Q4_K_M-00002-of-00004.gguf, Qwen3.8-Flash-Next-Q4_K_M/Qwen3.8-Flash-Next-Q4_K_M-00003-of-00004.gguf, Qwen3.8-Flash-Next-Q4_K_M/Qwen3.8-Flash-Next-Q4_K_M-00004-of-00004.gguf	119.599.030.080 (111,39 GiB / 119,60 GB)	`llama.cpp, ollama, unspecified`	`file-metadata`
GGUF Q5_K_M (bartowski) gguf-q5_k_m Calculadora: GGUF Q5_K_M (bartowski)	Qwen3.8-Flash-Next-Q5_K_M/Qwen3.8-Flash-Next-Q5_K_M-00001-of-00004.gguf, Qwen3.8-Flash-Next-Q5_K_M/Qwen3.8-Flash-Next-Q5_K_M-00002-of-00004.gguf, Qwen3.8-Flash-Next-Q5_K_M/Qwen3.8-Flash-Next-Q5_K_M-00003-of-00004.gguf, Qwen3.8-Flash-Next-Q5_K_M/Qwen3.8-Flash-Next-Q5_K_M-00004-of-00004.gguf	134.668.639.040 (125,42 GiB / 134,67 GB)	`llama.cpp, ollama, unspecified`	`file-metadata`
GGUF Q6_K (bartowski) gguf-q6_k Calculadora: GGUF Q6_K (bartowski)	5 fragmentos safetensors Bytes seleccionados en total: 168.113.805.248 (156,57 GiB / 168,11 GB) Primer fragmento: Qwen3.8-Flash-Next-Q6_K/Qwen3.8-Flash-Next-Q6_K-00001-of-00005.gguf Último fragmento: Qwen3.8-Flash-Next-Q6_K/Qwen3.8-Flash-Next-Q6_K-00005-of-00005.gguf Ver los 5 archivos de fragmentos `Qwen3.8-Flash-Next-Q6_K/Qwen3.8-Flash-Next-Q6_K-00001-of-00005.gguf` `Qwen3.8-Flash-Next-Q6_K/Qwen3.8-Flash-Next-Q6_K-00002-of-00005.gguf` `Qwen3.8-Flash-Next-Q6_K/Qwen3.8-Flash-Next-Q6_K-00003-of-00005.gguf` `Qwen3.8-Flash-Next-Q6_K/Qwen3.8-Flash-Next-Q6_K-00004-of-00005.gguf` `Qwen3.8-Flash-Next-Q6_K/Qwen3.8-Flash-Next-Q6_K-00005-of-00005.gguf`	168.113.805.248 (156,57 GiB / 168,11 GB)	`llama.cpp, ollama, unspecified`	`file-metadata`
INT4 theoretical	No hay archivo publicado	89.999.990.730 (Las filas teóricas no son artefactos descargables.)	—	theoretical

Memoria por cuantización y contexto

Secuencias concurrentes = 1. El KV es FP16 por defecto. El intervalo incluye extras de runtime documentados para el motor indicado. Las cifras usan el mismo núcleo que la calculadora interactiva.

Cuantización	2048 tokens	8192 tokens	32.768 tokens
BF16 safetensors	336,00 GiB–388,56 GiB	336,14 GiB–388,73 GiB	336,70 GiB–389,39 GiB
GGUF Q8_0 (Unsloth)	175,52 GiB–206,32 GiB	175,66 GiB–206,50 GiB	176,23 GiB–207,19 GiB
GGUF Q4_K_M (bartowski)	111,61 GiB–131,35 GiB	111,75 GiB–131,53 GiB	112,31 GiB–132,22 GiB
GGUF Q5_K_M (bartowski)	125,64 GiB–147,81 GiB	125,79 GiB–147,99 GiB	126,35 GiB–148,68 GiB
GGUF Q6_K (bartowski)	156,79 GiB–184,35 GiB	156,93 GiB–184,53 GiB	157,50 GiB–185,22 GiB
INT4 theoretical Las filas teóricas no son artefactos descargables.	84,04 GiB–108,65 GiB	84,18 GiB–108,83 GiB	84,75 GiB–109,52 GiB

Caché KV (datos brutos)

Abrir la calculadora con este modelo

Páginas relacionadas

Fuentes

Qwen3.8-Flash-Next model card — Diseño híbrido. La descarga de expertos no está especificada, y los parámetros activos no son los pesos residentes. El tamaño del archivo es el checkpoint empaquetado.
config.json — revision de4b8e4d43b917e7706784d8bb445c9af86a3540
safetensors index — metadata.total_size=359999963128
Artifact repo unsloth/Qwen3.8-Flash-Next-GGUF
Artifact repo bartowski/Qwen3.8-Flash-Next-GGUF

Hipótesis que afectan al resultado

El contexto pedido cabe en la ventana nativa de 262144 tokens.
La estimación residente usa el total de parámetros, incluidos expertos MoE inactivos.
El recuento de parámetros activos es desconocido o no tiene una fuente independiente. Los parámetros activos describen el cómputo enrutado, no la huella residente completa.
Los bytes de pesos salen solo de los archivos elegidos, no de todas las cuantizaciones del repositorio.
El tamaño de descarga no es la memoria GPU de pico. El diseño en ejecución y la KV van aparte.
Archivos contados: Qwen3.8-Flash-Next-Q4_K_M/Qwen3.8-Flash-Next-Q4_K_M-00001-of-00004.gguf, Qwen3.8-Flash-Next-Q4_K_M/Qwen3.8-Flash-Next-Q4_K_M-00002-of-00004.gguf, Qwen3.8-Flash-Next-Q4_K_M/Qwen3.8-Flash-Next-Q4_K_M-00003-of-00004.gguf, Qwen3.8-Flash-Next-Q4_K_M/Qwen3.8-Flash-Next-Q4_K_M-00004-of-00004.gguf.
Hay componente de visión. La inferencia de texto no incluye encoder ni projector.
Hay pesos MTP/draft; no entran salvo que se activen.

Calculadora

Cargando la instantánea del catálogo…

Elige primero un modelo y después revisa el equipo.

Modelo

Mostrar modelos históricos

Cuantización

Tipo de dispositivo

Hardware

Carga

La longitud de contexto afecta sobre todo a la memoria de la caché KV.

Ajustes avanzados

Ejecución

Motor y tipo de caché KV de esta estimación.

MotorTipo de caché KVDtype de estado recurrente / conv Incluir estimaciones teóricas (experto) Permitir un sustituto si el filtro no tiene coincidencia

Carga

Escenario de sobrecarga y el espacio de prellenado.

Escenario de sobrecoste en tiempo de ejecución Incluir un espacio de trabajo de prefill más pesado

Topología

Cómo se reparte el modelo entre dispositivos. La memoria no se suma.

DesplieguePartición intra-réplicaNúmero de dispositivos

El número de réplicas es avanzado. La cantidad son nodos o GPUs, no réplicas.

Grupos de réplicasDispositivos por réplica

Presupuesto

Reserva del sistema y margen de seguridad. Un número vacío conserva el valor anterior.

Reserva para sistema / pantalla

GiB (2^30 bytes)

El presupuesto ya descuenta la reserva del sistemaMargen de seguridad extra

Bits efectivos por parámetro (personalizado)Unidad de visualización

Modelo personalizado

Importe una config o escriba la arquitectura. No se escanea nada hasta importar.

Importar config.json local

Se analiza en el navegador. El archivo no se sube.

Repo público de Hugging FaceRevisión

Solo huggingface.co, solo config.json, sin token. Se rechazan repos privados.

Parámetros totalesParámetros activosCapasCabezas de consultaCabezas KVDimensión de cabeza

Busque o elija un modelo del catálogo para ver la VRAM necesaria de un LLM en local.

Busque o elija un modelo del catálogo para ver la VRAM necesaria de un LLM en local.