DeepSeek-V4.1-Flash em RTX 5090: Não cabe, Estimativa grosseira

Composição da memória

Weight artifact

475,24 GiB (510.286.023.000 bytes)

Raw KV cache

0,31 GiB (335.544.320 bytes)

Engine extras / workspace

0,63 GiB–74,22 GiB

Total estimated demand

476,18 GiB–549,77 GiB

Net calculator budget

30,00 GiB

OS / display reserve

2,00 GiB

Remaining vs net budget

-519,77 GiB–-446,18 GiB

Caber na memória não prova que o motor, a quantização e o sistema operacional funcionam juntos. Ter suporte também não significa ser rápido.

Outros arquivos publicados neste dispositivo

Mesmo modelo, dispositivo e contexto (4.096 tokens, 1 sequência, KV em FP16). Cada linha é um conjunto de arquivos de pesos publicado com seu motor habitual, ordenado por memória.

Premissas que afetam o resultado

• O contexto pedido cabe na janela nativa de 1048576 tokens.
• A estimativa residente usa o total de parâmetros, inclusive especialistas MoE inativos.
• A contagem de parâmetros ativos é desconhecida ou não tem fonte independente. Parâmetros ativos descrevem o compute roteado, não a pegada residente completa.
• Os bytes dos pesos vêm só dos arquivos escolhidos, não de todas as quantizações do repositório.
• O tamanho do download não é o pico de GPU. Layout em execução e KV vêm a mais.
• Os bytes de pesos vêm de 48 shards safetensors publicados, somando 510286023000 bytes.
• Há componente de visão. Inferência só de texto não inclui encoder/projector.
• Há pesos MTP/draft; só entram se ativados.

Páginas relacionadas

• DeepSeek-V4.1-Flash
• GeForce RTX 5090 32GB (desktop)
• DeepSeek-V4.1-Flash roda em DGX Spark?
• Calculadora de cache KV
• Tamanho de arquivo não é VRAM em execução (inglês)
• O que fazer quando falta memória (inglês)
• Quantização e memória (inglês)
• Metodologia

Fontes

• DeepSeek-V4.1-Flash model card
• config.json — revision dba1be0a40aa45a94ad051997016db3960a90277
• safetensors index — metadata.total_size=510286023000
• NVIDIA GeForce RTX 5090 product page — Standard Memory Config 32 GB GDDR7

Calculadora