DeepSeek-V4.1-Flash: requisitos de VRAM y memoria
Puntos de control concretos, con arquitectura y archivos de pesos con fuente. FP8 safetensors: 476,49 GiB–550,14 GiB a 8192 tokens, 1 secuencia, KV FP16, vllm.
Configuraciones conocidas que funcionan
3 configuraciones conocidasDespliegues probados por la comunidad y los mantenedores en hardware real, con contexto, cuantización y runtime verificados.
- ✓ generación
- ✓ 262,144 contexto
- ✓ llamada a herramientas
- ✓ visión
- ✓ decodificación especulativa
Despliegue probado. El texto está en inglés.
- ✓ generación
- ✓ ~208K Probado (256K cfg)
- ✓ llamada a herramientas
- ✓ visión
- ✓ decodificación especulativa
Despliegue probado. El texto está en inglés.
- ✓ generación
- ✓ 1,048,576 contexto
- ✓ llamada a herramientas
- ✓ visión
- ✓ decodificación especulativa
Despliegue probado. El texto está en inglés.
Dónde corre
Editor y procedencia
- ProveedorDeepSeek
- Hugging Face
deepseek-ai/DeepSeek-V4.1-Flash - Revision
dba1be0a40aa45a94ad051997016db3960a90277 - Parámetros totales763.205.315.794
- Parámetros activosDesconocido / sin fuente independiente
- Capas40
- Cabezas de consulta64
- Cabezas KV1 (mla)
- Dimensión de cabeza512
- Contexto documentado1.048.576
- Integridadpartial · partial
El recuento de parámetros activos es desconocido o no tiene una fuente independiente. Los parámetros activos describen el cómputo enrutado, no la huella residente completa.
Capas de memoria de esta estimación
Los bytes del archivo, el KV bruto, los extras del motor y la demanda total van aparte. No es una traza de ejecución.
- Weight artifact
- 475,24 GiB (510.286.023.000 bytes)
- Raw KV cache
- 0,63 GiB (671.088.640 bytes)
- Engine extras / workspace
- 0,63 GiB–74,28 GiB
- Total estimated demand
- 476,49 GiB–550,14 GiB
Archivos contados
| Cuantización | Archivos contados | Bytes | Motor | Evidencia |
|---|---|---|---|---|
| FP8 safetensors fp8 | 510.286.023.000 (475,24 GiB / 510,29 GB) | vllm, sglang, unspecified | file-metadata | |
| INT4 theoretical | No hay archivo publicado | 381.602.657.897 (Las filas teóricas no son artefactos descargables.) | — | theoretical |
Memoria por cuantización y contexto
Secuencias concurrentes = 1. El KV es FP16 por defecto. El intervalo incluye extras de runtime documentados para el motor indicado. Las cifras usan el mismo núcleo que la calculadora interactiva.
| Cuantización | 2048 tokens | 8192 tokens | 32.768 tokens |
|---|---|---|---|
| FP8 safetensors | 476,02 GiB–549,59 GiB | 476,49 GiB–550,14 GiB | 478,37 GiB–552,36 GiB |
| INT4 theoretical Las filas teóricas no son artefactos descargables. | 355,68 GiB–458,51 GiB | 356,15 GiB–459,09 GiB | 358,02 GiB–461,40 GiB |
Caché KV (datos brutos)
Páginas relacionadas
Fuentes
- DeepSeek-V4.1-Flash model card
- config.json — revision dba1be0a40aa45a94ad051997016db3960a90277
- safetensors index — metadata.total_size=510286023000
Hipótesis que afectan al resultado
- El contexto pedido cabe en la ventana nativa de 1048576 tokens.
- La estimación residente usa el total de parámetros, incluidos expertos MoE inactivos.
- El recuento de parámetros activos es desconocido o no tiene una fuente independiente. Los parámetros activos describen el cómputo enrutado, no la huella residente completa.
- Los bytes de pesos salen solo de los archivos elegidos, no de todas las cuantizaciones del repositorio.
- El tamaño de descarga no es la memoria GPU de pico. El diseño en ejecución y la KV van aparte.
- Los bytes de pesos provienen de 48 fragmentos safetensors publicados que suman 510286023000 bytes.
- Hay componente de visión. La inferencia de texto no incluye encoder ni projector.
- Hay pesos MTP/draft; no entran salvo que se activen.
Calculadora
Cargando la instantánea del catálogo…
Busque o elija un modelo del catálogo para ver la VRAM necesaria de un LLM en local.