DeepSeek-V3-0324: requisitos de VRAM e memória

Checkpoints específicos, com arquitetura e arquivos de peso rastreáveis. GGUF Q4_K_M (Unsloth): 377,32 GiB–443,15 GiB em 8.192 tokens, 1 sequência, KV FP16, llama.cpp.

Este resultado é uma estimativa, não um rastreio medido.Não verificadoPesos com arquivo

Publicador e procedência

FornecedorDeepSeek
Hugging Facedeepseek-ai/DeepSeek-V3-0324
Revisione9b33add76883f293d6bf61f6bd89b497e80e335
Parâmetros totais684.531.386.000
Parâmetros ativos37.000.000.000
Camadas61
Heads de consulta128
Heads KV128 (mla)
Dimensão do head56
Contexto documentado163.840
Completudepartial · partial

Este MoE tem 684.531.386.000 parâmetros totais e 37.000.000.000 ativos. O compute ativo não é a residência dos pesos. A estimativa residente usa o total de parâmetros, inclusive especialistas MoE inativos.

Camadas de memória desta estimativa

Bytes do arquivo, KV bruto, extras do engine e demanda total ficam separados. Isto não é um rastreio de execução.

Weight artifact: 376,65 GiB (404.430.188.000 bytes)
Raw KV cache: 0,54 GiB (575.668.224 bytes)
Engine extras / workspace: 0,13 GiB–65,96 GiB
Total estimated demand: 377,32 GiB–443,15 GiB

Arquivos contados

Quantização	Arquivos contados	Bytes	Motor de execução	Evidência
FP8 safetensors fp8 Calculadora: FP8 safetensors	163 shards safetensors Total de bytes selecionados: 1.369.062.772.000 (1.275,04 GiB / 1.369,06 GB) Primeiro shard: model-00001-of-000163.safetensors Último shard: model-00163-of-000163.safetensors Ver todos os 163 arquivos de shard `model-00001-of-000163.safetensors` `model-00002-of-000163.safetensors` `model-00003-of-000163.safetensors` `model-00004-of-000163.safetensors` `model-00005-of-000163.safetensors` `model-00006-of-000163.safetensors` `model-00007-of-000163.safetensors` `model-00008-of-000163.safetensors` `model-00009-of-000163.safetensors` `model-00010-of-000163.safetensors` `model-00011-of-000163.safetensors` `model-00012-of-000163.safetensors` `model-00013-of-000163.safetensors` `model-00014-of-000163.safetensors` `model-00015-of-000163.safetensors` `model-00016-of-000163.safetensors` `model-00017-of-000163.safetensors` `model-00018-of-000163.safetensors` `model-00019-of-000163.safetensors` `model-00020-of-000163.safetensors` `model-00021-of-000163.safetensors` `model-00022-of-000163.safetensors` `model-00023-of-000163.safetensors` `model-00024-of-000163.safetensors` `model-00025-of-000163.safetensors` `model-00026-of-000163.safetensors` `model-00027-of-000163.safetensors` `model-00028-of-000163.safetensors` `model-00029-of-000163.safetensors` `model-00030-of-000163.safetensors` `model-00031-of-000163.safetensors` `model-00032-of-000163.safetensors` `model-00033-of-000163.safetensors` `model-00034-of-000163.safetensors` `model-00035-of-000163.safetensors` `model-00036-of-000163.safetensors` `model-00037-of-000163.safetensors` `model-00038-of-000163.safetensors` `model-00039-of-000163.safetensors` `model-00040-of-000163.safetensors` `model-00041-of-000163.safetensors` `model-00042-of-000163.safetensors` `model-00043-of-000163.safetensors` `model-00044-of-000163.safetensors` `model-00045-of-000163.safetensors` `model-00046-of-000163.safetensors` `model-00047-of-000163.safetensors` `model-00048-of-000163.safetensors` `model-00049-of-000163.safetensors` `model-00050-of-000163.safetensors` `model-00051-of-000163.safetensors` `model-00052-of-000163.safetensors` `model-00053-of-000163.safetensors` `model-00054-of-000163.safetensors` `model-00055-of-000163.safetensors` `model-00056-of-000163.safetensors` `model-00057-of-000163.safetensors` `model-00058-of-000163.safetensors` `model-00059-of-000163.safetensors` `model-00060-of-000163.safetensors` `model-00061-of-000163.safetensors` `model-00062-of-000163.safetensors` `model-00063-of-000163.safetensors` `model-00064-of-000163.safetensors` `model-00065-of-000163.safetensors` `model-00066-of-000163.safetensors` `model-00067-of-000163.safetensors` `model-00068-of-000163.safetensors` `model-00069-of-000163.safetensors` `model-00070-of-000163.safetensors` `model-00071-of-000163.safetensors` `model-00072-of-000163.safetensors` `model-00073-of-000163.safetensors` `model-00074-of-000163.safetensors` `model-00075-of-000163.safetensors` `model-00076-of-000163.safetensors` `model-00077-of-000163.safetensors` `model-00078-of-000163.safetensors` `model-00079-of-000163.safetensors` `model-00080-of-000163.safetensors` `model-00081-of-000163.safetensors` `model-00082-of-000163.safetensors` `model-00083-of-000163.safetensors` `model-00084-of-000163.safetensors` `model-00085-of-000163.safetensors` `model-00086-of-000163.safetensors` `model-00087-of-000163.safetensors` `model-00088-of-000163.safetensors` `model-00089-of-000163.safetensors` `model-00090-of-000163.safetensors` `model-00091-of-000163.safetensors` `model-00092-of-000163.safetensors` `model-00093-of-000163.safetensors` `model-00094-of-000163.safetensors` `model-00095-of-000163.safetensors` `model-00096-of-000163.safetensors` `model-00097-of-000163.safetensors` `model-00098-of-000163.safetensors` `model-00099-of-000163.safetensors` `model-00100-of-000163.safetensors` `model-00101-of-000163.safetensors` `model-00102-of-000163.safetensors` `model-00103-of-000163.safetensors` `model-00104-of-000163.safetensors` `model-00105-of-000163.safetensors` `model-00106-of-000163.safetensors` `model-00107-of-000163.safetensors` `model-00108-of-000163.safetensors` `model-00109-of-000163.safetensors` `model-00110-of-000163.safetensors` `model-00111-of-000163.safetensors` `model-00112-of-000163.safetensors` `model-00113-of-000163.safetensors` `model-00114-of-000163.safetensors` `model-00115-of-000163.safetensors` `model-00116-of-000163.safetensors` `model-00117-of-000163.safetensors` `model-00118-of-000163.safetensors` `model-00119-of-000163.safetensors` `model-00120-of-000163.safetensors` `model-00121-of-000163.safetensors` `model-00122-of-000163.safetensors` `model-00123-of-000163.safetensors` `model-00124-of-000163.safetensors` `model-00125-of-000163.safetensors` `model-00126-of-000163.safetensors` `model-00127-of-000163.safetensors` `model-00128-of-000163.safetensors` `model-00129-of-000163.safetensors` `model-00130-of-000163.safetensors` `model-00131-of-000163.safetensors` `model-00132-of-000163.safetensors` `model-00133-of-000163.safetensors` `model-00134-of-000163.safetensors` `model-00135-of-000163.safetensors` `model-00136-of-000163.safetensors` `model-00137-of-000163.safetensors` `model-00138-of-000163.safetensors` `model-00139-of-000163.safetensors` `model-00140-of-000163.safetensors` `model-00141-of-000163.safetensors` `model-00142-of-000163.safetensors` `model-00143-of-000163.safetensors` `model-00144-of-000163.safetensors` `model-00145-of-000163.safetensors` `model-00146-of-000163.safetensors` `model-00147-of-000163.safetensors` `model-00148-of-000163.safetensors` `model-00149-of-000163.safetensors` `model-00150-of-000163.safetensors` `model-00151-of-000163.safetensors` `model-00152-of-000163.safetensors` `model-00153-of-000163.safetensors` `model-00154-of-000163.safetensors` `model-00155-of-000163.safetensors` `model-00156-of-000163.safetensors` `model-00157-of-000163.safetensors` `model-00158-of-000163.safetensors` `model-00159-of-000163.safetensors` `model-00160-of-000163.safetensors` `model-00161-of-000163.safetensors` `model-00162-of-000163.safetensors` `model-00163-of-000163.safetensors`	1.369.062.772.000 (1.275,04 GiB / 1.369,06 GB)	`vllm, sglang, unspecified`	`file-metadata`
GGUF Q4_K_M (Unsloth) gguf-q4_k_m Calculadora: GGUF Q4_K_M (Unsloth)	9 shards safetensors Total de bytes selecionados: 404.430.188.000 (376,65 GiB / 404,43 GB) Primeiro shard: Q4_K_M/DeepSeek-V3-0324-Q4_K_M-00001-of-00009.gguf Último shard: Q4_K_M/DeepSeek-V3-0324-Q4_K_M-00009-of-00009.gguf Ver todos os 9 arquivos de shard `Q4_K_M/DeepSeek-V3-0324-Q4_K_M-00001-of-00009.gguf` `Q4_K_M/DeepSeek-V3-0324-Q4_K_M-00002-of-00009.gguf` `Q4_K_M/DeepSeek-V3-0324-Q4_K_M-00003-of-00009.gguf` `Q4_K_M/DeepSeek-V3-0324-Q4_K_M-00004-of-00009.gguf` `Q4_K_M/DeepSeek-V3-0324-Q4_K_M-00005-of-00009.gguf` `Q4_K_M/DeepSeek-V3-0324-Q4_K_M-00006-of-00009.gguf` `Q4_K_M/DeepSeek-V3-0324-Q4_K_M-00007-of-00009.gguf` `Q4_K_M/DeepSeek-V3-0324-Q4_K_M-00008-of-00009.gguf` `Q4_K_M/DeepSeek-V3-0324-Q4_K_M-00009-of-00009.gguf`	404.430.188.000 (376,65 GiB / 404,43 GB)	`llama.cpp, ollama, unspecified`	`file-metadata`
GGUF Q5_K_M (Unsloth) gguf-q5_k_m Calculadora: GGUF Q5_K_M (Unsloth)	10 shards safetensors Total de bytes selecionados: 475.396.558.528 (442,75 GiB / 475,40 GB) Primeiro shard: Q5_K_M/DeepSeek-V3-0324-Q5_K_M-00001-of-00010.gguf Último shard: Q5_K_M/DeepSeek-V3-0324-Q5_K_M-00010-of-00010.gguf Ver todos os 10 arquivos de shard `Q5_K_M/DeepSeek-V3-0324-Q5_K_M-00001-of-00010.gguf` `Q5_K_M/DeepSeek-V3-0324-Q5_K_M-00002-of-00010.gguf` `Q5_K_M/DeepSeek-V3-0324-Q5_K_M-00003-of-00010.gguf` `Q5_K_M/DeepSeek-V3-0324-Q5_K_M-00004-of-00010.gguf` `Q5_K_M/DeepSeek-V3-0324-Q5_K_M-00005-of-00010.gguf` `Q5_K_M/DeepSeek-V3-0324-Q5_K_M-00006-of-00010.gguf` `Q5_K_M/DeepSeek-V3-0324-Q5_K_M-00007-of-00010.gguf` `Q5_K_M/DeepSeek-V3-0324-Q5_K_M-00008-of-00010.gguf` `Q5_K_M/DeepSeek-V3-0324-Q5_K_M-00009-of-00010.gguf` `Q5_K_M/DeepSeek-V3-0324-Q5_K_M-00010-of-00010.gguf`	475.396.558.528 (442,75 GiB / 475,40 GB)	`llama.cpp, ollama, unspecified`	`file-metadata`
GGUF Q6_K (Unsloth) gguf-q6_k Calculadora: GGUF Q6_K (Unsloth)	12 shards safetensors Total de bytes selecionados: 550.798.327.264 (512,97 GiB / 550,80 GB) Primeiro shard: Q6_K/DeepSeek-V3-0324-Q6_K-00001-of-00012.gguf Último shard: Q6_K/DeepSeek-V3-0324-Q6_K-00012-of-00012.gguf Ver todos os 12 arquivos de shard `Q6_K/DeepSeek-V3-0324-Q6_K-00001-of-00012.gguf` `Q6_K/DeepSeek-V3-0324-Q6_K-00002-of-00012.gguf` `Q6_K/DeepSeek-V3-0324-Q6_K-00003-of-00012.gguf` `Q6_K/DeepSeek-V3-0324-Q6_K-00004-of-00012.gguf` `Q6_K/DeepSeek-V3-0324-Q6_K-00005-of-00012.gguf` `Q6_K/DeepSeek-V3-0324-Q6_K-00006-of-00012.gguf` `Q6_K/DeepSeek-V3-0324-Q6_K-00007-of-00012.gguf` `Q6_K/DeepSeek-V3-0324-Q6_K-00008-of-00012.gguf` `Q6_K/DeepSeek-V3-0324-Q6_K-00009-of-00012.gguf` `Q6_K/DeepSeek-V3-0324-Q6_K-00010-of-00012.gguf` `Q6_K/DeepSeek-V3-0324-Q6_K-00011-of-00012.gguf` `Q6_K/DeepSeek-V3-0324-Q6_K-00012-of-00012.gguf`	550.798.327.264 (512,97 GiB / 550,80 GB)	`llama.cpp, ollama, unspecified`	`file-metadata`
GGUF Q8_0 (Unsloth) gguf-q8_0 Calculadora: GGUF Q8_0 (Unsloth)	15 shards safetensors Total de bytes selecionados: 713.286.514.720 (664,30 GiB / 713,29 GB) Primeiro shard: Q8_0/DeepSeek-V3-0324-Q8_0-00001-of-00015.gguf Último shard: Q8_0/DeepSeek-V3-0324-Q8_0-00015-of-00015.gguf Ver todos os 15 arquivos de shard `Q8_0/DeepSeek-V3-0324-Q8_0-00001-of-00015.gguf` `Q8_0/DeepSeek-V3-0324-Q8_0-00002-of-00015.gguf` `Q8_0/DeepSeek-V3-0324-Q8_0-00003-of-00015.gguf` `Q8_0/DeepSeek-V3-0324-Q8_0-00004-of-00015.gguf` `Q8_0/DeepSeek-V3-0324-Q8_0-00005-of-00015.gguf` `Q8_0/DeepSeek-V3-0324-Q8_0-00006-of-00015.gguf` `Q8_0/DeepSeek-V3-0324-Q8_0-00007-of-00015.gguf` `Q8_0/DeepSeek-V3-0324-Q8_0-00008-of-00015.gguf` `Q8_0/DeepSeek-V3-0324-Q8_0-00009-of-00015.gguf` `Q8_0/DeepSeek-V3-0324-Q8_0-00010-of-00015.gguf` `Q8_0/DeepSeek-V3-0324-Q8_0-00011-of-00015.gguf` `Q8_0/DeepSeek-V3-0324-Q8_0-00012-of-00015.gguf` `Q8_0/DeepSeek-V3-0324-Q8_0-00013-of-00015.gguf` `Q8_0/DeepSeek-V3-0324-Q8_0-00014-of-00015.gguf` `Q8_0/DeepSeek-V3-0324-Q8_0-00015-of-00015.gguf`	713.286.514.720 (664,30 GiB / 713,29 GB)	`llama.cpp, ollama, unspecified`	`file-metadata`
INT4 theoretical	Nenhum arquivo publicado	342.265.693.000 (Linhas teóricas não são artefactos descarregáveis.)	—	theoretical

Memória por quantização e contexto

Sequências concorrentes = 1. O KV padrão é FP16. O intervalo inclui extras de runtime documentados para o engine indicado. Os números usam o mesmo núcleo da calculadora interativa.

Quantização	2.048 tokens	8.192 tokens	32.768 tokens
FP8 safetensors	1.275,80 GiB–1.469,35 GiB	1.276,20 GiB–1.469,90 GiB	1.277,81 GiB–1.472,09 GiB
GGUF Q4_K_M (Unsloth)	376,91 GiB–442,57 GiB	377,32 GiB–443,15 GiB	378,92 GiB–445,43 GiB
GGUF Q5_K_M (Unsloth)	443,01 GiB–520,10 GiB	443,41 GiB–520,68 GiB	445,02 GiB–522,95 GiB
GGUF Q6_K (Unsloth)	513,23 GiB–602,47 GiB	513,63 GiB–603,05 GiB	515,24 GiB–605,32 GiB
GGUF Q8_0 (Unsloth)	664,56 GiB–779,98 GiB	664,96 GiB–780,56 GiB	666,57 GiB–782,83 GiB
INT4 theoretical Linhas teóricas não são artefactos descarregáveis.	319,02 GiB–411,32 GiB	319,42 GiB–411,90 GiB	321,03 GiB–414,17 GiB

Cache KV (dados brutos)

Abrir a calculadora com este modelo

Páginas relacionadas

Fontes

DeepSeek-V3-0324 model card
config.json — revision e9b33add76883f293d6bf61f6bd89b497e80e335
safetensors index — metadata.total_size=1369062772000
Artifact repo unsloth/DeepSeek-V3-0324-GGUF

Premissas que afetam o resultado

O contexto pedido cabe na janela nativa de 163840 tokens.
A estimativa residente usa o total de parâmetros, inclusive especialistas MoE inativos.
Este MoE tem 684531386000 parâmetros totais e 37000000000 ativos. O compute ativo não é a residência dos pesos.
Os bytes dos pesos vêm só dos arquivos escolhidos, não de todas as quantizações do repositório.
O tamanho do download não é o pico de GPU. Layout em execução e KV vêm a mais.
Os bytes de pesos vêm de 9 shards safetensors publicados, somando 404430188000 bytes.
Há pesos MTP/draft; só entram se ativados.
O contexto é o número de tokens em cache por sequência (entrada mais geração reservada).

Calculadora

A carregar o snapshot do catálogo…

Escolha primeiro um modelo e depois confira o equipamento.

Modelo

Mostrar modelos históricos

Quantização

Tipo de dispositivo

Hardware

Carga

O comprimento de contexto afeta principalmente a memória do KV cache.

Configurações avançadas

Runtime

Engine e tipo de cache KV desta estimativa.

Motor de execuçãoTipo do cache KVDtype do estado recorrente / conv Incluir estimativas teóricas (especialista) Permitir substituto se o filtro não tiver correspondência

Carga

Cenário de overhead e o espaço de prefill.

Cenário de overhead em tempo de execução Incluir área de trabalho mais pesada no prefill

Topologia

Como o modelo é dividido entre dispositivos. A memória não é somada.

Forma de implantaçãoDivisão intra-réplicaQuantidade de dispositivos

O número de réplicas é avançado. A quantidade são nós ou GPUs, não réplicas.

Grupos de réplicasDispositivos por réplica

Orçamento

Reserva do sistema e margem de segurança. Um número vazio mantém o valor anterior.

Reserva para sistema / tela

GiB (2^30 bytes)

O orçamento já exclui a reserva do sistemaMargem extra de segurança

Bits efetivos por parâmetro (personalizado)Unidade de exibição

Modelo personalizado

Importe uma config ou digite a arquitetura. Nada é varrido até você importar.

Importar config.json local

O arquivo é lido só no navegador e não é enviado.

Repositório público do Hugging FaceRevisão

Só huggingface.co, só config.json, sem token. Repositório privado é recusado.

Parâmetros totaisParâmetros ativosCamadasHeads de consultaHeads KVDimensão do head

Pesquise ou escolha um modelo do catálogo para ver a VRAM necessária e rodar um LLM local.

Pesquise ou escolha um modelo do catálogo para ver a VRAM necessária e rodar um LLM local.