DeepSeek-V4.1-Flash: requisitos de VRAM e memória
Checkpoints específicos, com arquitetura e arquivos de peso rastreáveis. FP8 safetensors: 476,49 GiB–550,14 GiB em 8.192 tokens, 1 sequência, KV FP16, vllm.
Configurações conhecidas que funcionam
3 configurações conhecidasImplantações testadas pela comunidade e pelos mantenedores em hardware real, com contexto, quantização e runtime verificados.
- ✓ geração
- ✓ 262,144 contexto
- ✓ chamada de ferramentas
- ✓ visão
- ✓ decodificação especulativa
Implantação testada. O texto está em inglês.
- ✓ geração
- ✓ ~208K Testado (256K cfg)
- ✓ chamada de ferramentas
- ✓ visão
- ✓ decodificação especulativa
Implantação testada. O texto está em inglês.
- ✓ geração
- ✓ 1,048,576 contexto
- ✓ chamada de ferramentas
- ✓ visão
- ✓ decodificação especulativa
Implantação testada. O texto está em inglês.
Roda em
Publicador e procedência
- FornecedorDeepSeek
- Hugging Face
deepseek-ai/DeepSeek-V4.1-Flash - Revision
dba1be0a40aa45a94ad051997016db3960a90277 - Parâmetros totais763.205.315.794
- Parâmetros ativosDesconhecido / sem fonte independente
- Camadas40
- Heads de consulta64
- Heads KV1 (mla)
- Dimensão do head512
- Contexto documentado1.048.576
- Completudepartial · partial
A contagem de parâmetros ativos é desconhecida ou não tem fonte independente. Parâmetros ativos descrevem o compute roteado, não a pegada residente completa.
Camadas de memória desta estimativa
Bytes do arquivo, KV bruto, extras do engine e demanda total ficam separados. Isto não é um rastreio de execução.
- Weight artifact
- 475,24 GiB (510.286.023.000 bytes)
- Raw KV cache
- 0,63 GiB (671.088.640 bytes)
- Engine extras / workspace
- 0,63 GiB–74,28 GiB
- Total estimated demand
- 476,49 GiB–550,14 GiB
Arquivos contados
| Quantização | Arquivos contados | Bytes | Motor de execução | Evidência |
|---|---|---|---|---|
| FP8 safetensors fp8 | 510.286.023.000 (475,24 GiB / 510,29 GB) | vllm, sglang, unspecified | file-metadata | |
| INT4 theoretical | Nenhum arquivo publicado | 381.602.657.897 (Linhas teóricas não são artefactos descarregáveis.) | — | theoretical |
Memória por quantização e contexto
Sequências concorrentes = 1. O KV padrão é FP16. O intervalo inclui extras de runtime documentados para o engine indicado. Os números usam o mesmo núcleo da calculadora interativa.
| Quantização | 2.048 tokens | 8.192 tokens | 32.768 tokens |
|---|---|---|---|
| FP8 safetensors | 476,02 GiB–549,59 GiB | 476,49 GiB–550,14 GiB | 478,37 GiB–552,36 GiB |
| INT4 theoretical Linhas teóricas não são artefactos descarregáveis. | 355,68 GiB–458,51 GiB | 356,15 GiB–459,09 GiB | 358,02 GiB–461,40 GiB |
Cache KV (dados brutos)
Páginas relacionadas
Fontes
- DeepSeek-V4.1-Flash model card
- config.json — revision dba1be0a40aa45a94ad051997016db3960a90277
- safetensors index — metadata.total_size=510286023000
Premissas que afetam o resultado
- O contexto pedido cabe na janela nativa de 1048576 tokens.
- A estimativa residente usa o total de parâmetros, inclusive especialistas MoE inativos.
- A contagem de parâmetros ativos é desconhecida ou não tem fonte independente. Parâmetros ativos descrevem o compute roteado, não a pegada residente completa.
- Os bytes dos pesos vêm só dos arquivos escolhidos, não de todas as quantizações do repositório.
- O tamanho do download não é o pico de GPU. Layout em execução e KV vêm a mais.
- Os bytes de pesos vêm de 48 shards safetensors publicados, somando 510286023000 bytes.
- Há componente de visão. Inferência só de texto não inclui encoder/projector.
- Há pesos MTP/draft; só entram se ativados.
Calculadora
A carregar o snapshot do catálogo…
Pesquise ou escolha um modelo do catálogo para ver a VRAM necessária e rodar um LLM local.