DeepSeek-V4.1-Flash em DGX Spark (GB10): 128 GB unified, Não cabe, Estimativa grosseira
DeepSeek-V4.1-Flash em DGX Spark (GB10) (128 GB unified): Não cabe. Estimativa 476,18 GiB–549,77 GiB contra 112,00 GiB líquidos (FP8 safetensors, 4.096 tokens).
Julgamento condicional de memória para uma configuração. Contexto, quantização ou motor podem mudar a conclusão. Configuração desta página: FP8 safetensors, 4.096 tokens em cache, 1 sequência, motor vllm. Status: Memória insuficiente. Software: Não verificado..
A calculadora genérica julga o checkpoint canônico. Para esta combinação também há 3 receitas de implantação testadas pela comunidade.
Configurações conhecidas que funcionam
3 configurações conhecidasReceitas de implantação testadas para este modelo neste hardware.
- ✓ geração
- ✓ 262,144 contexto
- ✓ chamada de ferramentas
- ✓ visão
- ✓ decodificação especulativa
Implantação testada. O texto está em inglês.
- ✓ geração
- ✓ ~208K Testado (256K cfg)
- ✓ chamada de ferramentas
- ✓ visão
- ✓ decodificação especulativa
Implantação testada. O texto está em inglês.
- ✓ geração
- ✓ 1,048,576 contexto
- ✓ chamada de ferramentas
- ✓ visão
- ✓ decodificação especulativa
Implantação testada. O texto está em inglês.
Configuração fixa da página
- ModeloDeepSeek-V4.1-Flash
- HardwareNVIDIA DGX Spark (GB10, 128 GB unified)
- QuantizaçãoFP8 safetensors
- Tamanho de contexto (tokens em cache)4.096
- Motor de execução
vllm - Sequências simultâneas1
- Tipo do cache KVfp16
Identificadores técnicos e dados de compartilhamento
- Modelo
deepseek-v4.1-flash - Hardware
nvidia-dgx-spark-128gb-unified - Quantização
fp8 - Fragmento para compartilhar esta identidade
v2.eyJzY2hlbWFWZXJzaW9uIjoyLCJjYWxjdWxhdG9yVmVyc2lvbiI6IjAuMy4wIiwiZGF0YXNldFZlcnNpb24iOiIyMDI2LTEwLTAyLjEiLCJjb25maWciOnsibW9kZWxJZCI6ImRlZXBzZWVrLXY0LjEtZmxhc2giLCJoYXJkd2FyZUlkIjoibnZpZGlhLWRneC1zcGFyay0xMjhnYi11bmlmaWVkIiwiZGV2aWNlQ291bnQiOjEsInF1YW50aXphdGlvbklkIjoiZnA4IiwiY29udGV4dFRva2VucyI6NDA5NiwiY29uY3VycmVudFNlcXVlbmNlcyI6MSwiZW5naW5lIjoidmxsbSIsImt2VHlwZSI6ImZwMTYifX0
Composição da memória
- Weight artifact
- 475,24 GiB (510.286.023.000 bytes)
- Raw KV cache
- 0,31 GiB (335.544.320 bytes)
- Engine extras / workspace
- 0,63 GiB–74,22 GiB
- Total estimated demand
- 476,18 GiB–549,77 GiB
- Net calculator budget
- 112,00 GiB
- OS / display reserve
- 16,00 GiB
- Remaining vs net budget
- -437,77 GiB–-364,18 GiB
estimativa alta 549,77 GiB contra 112,00 GiB líquidos
Caber na memória não prova que o motor, a quantização e o sistema operacional funcionam juntos. Ter suporte também não significa ser rápido.
Outros arquivos publicados neste dispositivo
Mesmo modelo, dispositivo e contexto (4.096 tokens, 1 sequência, KV em FP16). Cada linha é um conjunto de arquivos de pesos publicado com seu motor habitual, ordenado por memória.
| Quantização | Motor de execução | Memória estimada | Ajuste |
|---|---|---|---|
| FP8 safetensors Esta página | vllm | 476,18 GiB–549,77 GiB | Não cabe · Estimativa grosseira |
Premissas que afetam o resultado
- O contexto pedido cabe na janela nativa de 1048576 tokens.
- A estimativa residente usa o total de parâmetros, inclusive especialistas MoE inativos.
- A contagem de parâmetros ativos é desconhecida ou não tem fonte independente. Parâmetros ativos descrevem o compute roteado, não a pegada residente completa.
- Os bytes dos pesos vêm só dos arquivos escolhidos, não de todas as quantizações do repositório.
- O tamanho do download não é o pico de GPU. Layout em execução e KV vêm a mais.
- Os bytes de pesos vêm de 48 shards safetensors publicados, somando 510286023000 bytes.
- Há componente de visão. Inferência só de texto não inclui encoder/projector.
- Há pesos MTP/draft; só entram se ativados.
Páginas relacionadas
Fontes
- DeepSeek-V4.1-Flash model card
- config.json — revision dba1be0a40aa45a94ad051997016db3960a90277
- safetensors index — metadata.total_size=510286023000
- NVIDIA DGX Spark product page — 128 GB de memória de sistema unificada e coerente. Isto não é VRAM dedicada. A reserva padrão cobre o sistema e outros processos. Vários Sparks não são um único pool.
- NVIDIA DGX Spark hardware docs — 128 GB LPDDR5x unified memory on the GB10 Superchip.
Calculadora
Esta página de combo mantém o modelo e o dispositivo da rota. Personalize na calculadora principal; a partilha guarda essa identidade.
A carregar o snapshot do catálogo…
Pesquise ou escolha um modelo do catálogo para ver a VRAM necessária e rodar um LLM local.