DeepSeek-V4.1-Flash: VRAM- und Speicherbedarf
Konkrete Checkpoints mit belegter Struktur und ausgewählten Gewichtungsdateien. FP8 safetensors: 476,49 GiB–550,14 GiB bei 8.192 Tokens, 1 Sequenz, FP16-KV, vllm.
Bekannte lauffähige Setups
3 bekannte SetupsVon Community und Maintainern auf echter Hardware geprüfte Deployments mit belegtem Kontext, Quantisierung und Runtime.
- ✓ Generierung
- ✓ 262,144 Kontext
- ✓ Werkzeugaufruf
- ✓ Bild
- ✓ spekulative Dekodierung
Geprüftes Deployment. Die Beschreibung ist auf Englisch.
- ✓ Generierung
- ✓ ~208K Getestet (256K cfg)
- ✓ Werkzeugaufruf
- ✓ Bild
- ✓ spekulative Dekodierung
Geprüftes Deployment. Die Beschreibung ist auf Englisch.
- ✓ Generierung
- ✓ 1,048,576 Kontext
- ✓ Werkzeugaufruf
- ✓ Bild
- ✓ spekulative Dekodierung
Geprüftes Deployment. Die Beschreibung ist auf Englisch.
Läuft auf
Herausgeber und Herkunft
- AnbieterDeepSeek
- Hugging Face
deepseek-ai/DeepSeek-V4.1-Flash - Revision
dba1be0a40aa45a94ad051997016db3960a90277 - Parameter gesamt763.205.315.794
- Aktive ParameterUnbekannt / nicht unabhängig belegt
- Schichten40
- Query-Köpfe64
- KV-Köpfe1 (mla)
- Kopfdimension512
- Dokumentierte Kontextfähigkeit1.048.576
- Vollständigkeitpartial · partial
Die Zahl aktiver Parameter ist unbekannt oder nicht unabhängig belegt. Aktive Parameter beschreiben geroutete Rechenlast, nicht den vollständigen residenten Gewichtsumfang.
Speicherschichten in dieser Schätzung
Datei-Bytes, rohes KV, Engine-Zusätze und Gesamtbedarf stehen getrennt. Das ist keine Laufzeitspur.
- Weight artifact
- 475,24 GiB (510.286.023.000 bytes)
- Raw KV cache
- 0,63 GiB (671.088.640 bytes)
- Engine extras / workspace
- 0,63 GiB–74,28 GiB
- Total estimated demand
- 476,49 GiB–550,14 GiB
Gewählte Dateien
| Quantisierung | Gewählte Dateien | Bytes | Laufzeit | Beleg |
|---|---|---|---|---|
| FP8 safetensors fp8 | 510.286.023.000 (475,24 GiB / 510,29 GB) | vllm, sglang, unspecified | file-metadata | |
| INT4 theoretical | Keine veröffentlichte Datei | 381.602.657.897 (Theoretische Zeilen sind keine herunterladbaren Artefakte.) | — | theoretical |
Speicher nach Quantisierung und Kontext
Gleichzeitige Sequenzen = 1. KV ist standardmäßig FP16. Die Spanne enthält dokumentierte Laufzeit-Zusätze der genannten Engine. Die Zahlen nutzen denselben Kern wie der interaktive Rechner.
| Quantisierung | 2.048 tokens | 8.192 tokens | 32.768 tokens |
|---|---|---|---|
| FP8 safetensors | 476,02 GiB–549,59 GiB | 476,49 GiB–550,14 GiB | 478,37 GiB–552,36 GiB |
| INT4 theoretical Theoretische Zeilen sind keine herunterladbaren Artefakte. | 355,68 GiB–458,51 GiB | 356,15 GiB–459,09 GiB | 358,02 GiB–461,40 GiB |
KV-Cache (Rohdaten)
Verwandte Seiten
Quellen
- DeepSeek-V4.1-Flash model card
- config.json — revision dba1be0a40aa45a94ad051997016db3960a90277
- safetensors index — metadata.total_size=510286023000
Annahmen, die das Ergebnis beeinflussen
- Der Kontext liegt im dokumentierten nativen Fenster von 1048576 Tokens.
- Die vollständige Residenzschätzung nutzt die Gesamtparameter, inklusive inaktiver MoE-Experten.
- Die Zahl aktiver Parameter ist unbekannt oder nicht unabhängig belegt. Aktive Parameter beschreiben geroutete Rechenlast, nicht den vollständigen residenten Gewichtsumfang.
- Gewichtbytes kommen nur von den gewählten Dateien, nicht von allen Quantisierungen im Repository.
- Die Downloadgröße ist nicht der GPU-Spitzenspeicher. Layout, Allocator und KV kommen extra.
- Gewichtbytes stammen aus 48 veröffentlichten Safetensors-Shards, zusammen 510286023000 Bytes.
- Es gibt eine Vision-Komponente. Textinferenz zählt Encoder/Projector nicht.
- MTP-/Draft-Gewichte existieren und zählen nur wenn aktiviert.
Rechner
Katalog-Snapshot wird geladen…
Suchen oder ein Katalogmodell wählen, um den VRAM-Bedarf zu sehen.