DeepSeek-V3: VRAM- und Speicherbedarf

Konkrete Checkpoints mit belegter Struktur und ausgewählten Gewichtungsdateien. GGUF Q4_K_M (Unsloth): 377,32 GiB–443,15 GiB bei 8.192 Tokens, 1 Sequenz, FP16-KV, llama.cpp.

Das Ergebnis ist eine Schätzung, keine Messung.Nicht geprüftDateigestützte Gewichte

Herausgeber und Herkunft

AnbieterDeepSeek
Hugging Facedeepseek-ai/DeepSeek-V3
Revisione815299b0bcbac849fa540c768ef21845365c9eb
Parameter gesamt684.531.386.000
Aktive Parameter37.000.000.000
Schichten61
Query-Köpfe128
KV-Köpfe128 (mla)
Kopfdimension56
Dokumentierte Kontextfähigkeit163.840
Vollständigkeitpartial · partial

Dieses MoE nennt 684.531.386.000 Gesamt- und 37.000.000.000 aktive Parameter. Die aktive Rechenmenge ist nicht die Gewichtresidenz. Die vollständige Residenzschätzung nutzt die Gesamtparameter, inklusive inaktiver MoE-Experten.

Speicherschichten in dieser Schätzung

Datei-Bytes, rohes KV, Engine-Zusätze und Gesamtbedarf stehen getrennt. Das ist keine Laufzeitspur.

Weight artifact: 376,65 GiB (404.430.187.072 bytes)
Raw KV cache: 0,54 GiB (575.668.224 bytes)
Engine extras / workspace: 0,13 GiB–65,96 GiB
Total estimated demand: 377,32 GiB–443,15 GiB

Gewählte Dateien

Quantisierung	Gewählte Dateien	Bytes	Laufzeit	Beleg
FP8 safetensors fp8 Rechner: FP8 safetensors	163 Safetensors-Shards Ausgewählte Bytes gesamt: 1.369.062.772.000 (1.275,04 GiB / 1.369,06 GB) Erster Shard: model-00001-of-000163.safetensors Letzter Shard: model-00163-of-000163.safetensors Alle 163 Shard-Dateien anzeigen `model-00001-of-000163.safetensors` `model-00002-of-000163.safetensors` `model-00003-of-000163.safetensors` `model-00004-of-000163.safetensors` `model-00005-of-000163.safetensors` `model-00006-of-000163.safetensors` `model-00007-of-000163.safetensors` `model-00008-of-000163.safetensors` `model-00009-of-000163.safetensors` `model-00010-of-000163.safetensors` `model-00011-of-000163.safetensors` `model-00012-of-000163.safetensors` `model-00013-of-000163.safetensors` `model-00014-of-000163.safetensors` `model-00015-of-000163.safetensors` `model-00016-of-000163.safetensors` `model-00017-of-000163.safetensors` `model-00018-of-000163.safetensors` `model-00019-of-000163.safetensors` `model-00020-of-000163.safetensors` `model-00021-of-000163.safetensors` `model-00022-of-000163.safetensors` `model-00023-of-000163.safetensors` `model-00024-of-000163.safetensors` `model-00025-of-000163.safetensors` `model-00026-of-000163.safetensors` `model-00027-of-000163.safetensors` `model-00028-of-000163.safetensors` `model-00029-of-000163.safetensors` `model-00030-of-000163.safetensors` `model-00031-of-000163.safetensors` `model-00032-of-000163.safetensors` `model-00033-of-000163.safetensors` `model-00034-of-000163.safetensors` `model-00035-of-000163.safetensors` `model-00036-of-000163.safetensors` `model-00037-of-000163.safetensors` `model-00038-of-000163.safetensors` `model-00039-of-000163.safetensors` `model-00040-of-000163.safetensors` `model-00041-of-000163.safetensors` `model-00042-of-000163.safetensors` `model-00043-of-000163.safetensors` `model-00044-of-000163.safetensors` `model-00045-of-000163.safetensors` `model-00046-of-000163.safetensors` `model-00047-of-000163.safetensors` `model-00048-of-000163.safetensors` `model-00049-of-000163.safetensors` `model-00050-of-000163.safetensors` `model-00051-of-000163.safetensors` `model-00052-of-000163.safetensors` `model-00053-of-000163.safetensors` `model-00054-of-000163.safetensors` `model-00055-of-000163.safetensors` `model-00056-of-000163.safetensors` `model-00057-of-000163.safetensors` `model-00058-of-000163.safetensors` `model-00059-of-000163.safetensors` `model-00060-of-000163.safetensors` `model-00061-of-000163.safetensors` `model-00062-of-000163.safetensors` `model-00063-of-000163.safetensors` `model-00064-of-000163.safetensors` `model-00065-of-000163.safetensors` `model-00066-of-000163.safetensors` `model-00067-of-000163.safetensors` `model-00068-of-000163.safetensors` `model-00069-of-000163.safetensors` `model-00070-of-000163.safetensors` `model-00071-of-000163.safetensors` `model-00072-of-000163.safetensors` `model-00073-of-000163.safetensors` `model-00074-of-000163.safetensors` `model-00075-of-000163.safetensors` `model-00076-of-000163.safetensors` `model-00077-of-000163.safetensors` `model-00078-of-000163.safetensors` `model-00079-of-000163.safetensors` `model-00080-of-000163.safetensors` `model-00081-of-000163.safetensors` `model-00082-of-000163.safetensors` `model-00083-of-000163.safetensors` `model-00084-of-000163.safetensors` `model-00085-of-000163.safetensors` `model-00086-of-000163.safetensors` `model-00087-of-000163.safetensors` `model-00088-of-000163.safetensors` `model-00089-of-000163.safetensors` `model-00090-of-000163.safetensors` `model-00091-of-000163.safetensors` `model-00092-of-000163.safetensors` `model-00093-of-000163.safetensors` `model-00094-of-000163.safetensors` `model-00095-of-000163.safetensors` `model-00096-of-000163.safetensors` `model-00097-of-000163.safetensors` `model-00098-of-000163.safetensors` `model-00099-of-000163.safetensors` `model-00100-of-000163.safetensors` `model-00101-of-000163.safetensors` `model-00102-of-000163.safetensors` `model-00103-of-000163.safetensors` `model-00104-of-000163.safetensors` `model-00105-of-000163.safetensors` `model-00106-of-000163.safetensors` `model-00107-of-000163.safetensors` `model-00108-of-000163.safetensors` `model-00109-of-000163.safetensors` `model-00110-of-000163.safetensors` `model-00111-of-000163.safetensors` `model-00112-of-000163.safetensors` `model-00113-of-000163.safetensors` `model-00114-of-000163.safetensors` `model-00115-of-000163.safetensors` `model-00116-of-000163.safetensors` `model-00117-of-000163.safetensors` `model-00118-of-000163.safetensors` `model-00119-of-000163.safetensors` `model-00120-of-000163.safetensors` `model-00121-of-000163.safetensors` `model-00122-of-000163.safetensors` `model-00123-of-000163.safetensors` `model-00124-of-000163.safetensors` `model-00125-of-000163.safetensors` `model-00126-of-000163.safetensors` `model-00127-of-000163.safetensors` `model-00128-of-000163.safetensors` `model-00129-of-000163.safetensors` `model-00130-of-000163.safetensors` `model-00131-of-000163.safetensors` `model-00132-of-000163.safetensors` `model-00133-of-000163.safetensors` `model-00134-of-000163.safetensors` `model-00135-of-000163.safetensors` `model-00136-of-000163.safetensors` `model-00137-of-000163.safetensors` `model-00138-of-000163.safetensors` `model-00139-of-000163.safetensors` `model-00140-of-000163.safetensors` `model-00141-of-000163.safetensors` `model-00142-of-000163.safetensors` `model-00143-of-000163.safetensors` `model-00144-of-000163.safetensors` `model-00145-of-000163.safetensors` `model-00146-of-000163.safetensors` `model-00147-of-000163.safetensors` `model-00148-of-000163.safetensors` `model-00149-of-000163.safetensors` `model-00150-of-000163.safetensors` `model-00151-of-000163.safetensors` `model-00152-of-000163.safetensors` `model-00153-of-000163.safetensors` `model-00154-of-000163.safetensors` `model-00155-of-000163.safetensors` `model-00156-of-000163.safetensors` `model-00157-of-000163.safetensors` `model-00158-of-000163.safetensors` `model-00159-of-000163.safetensors` `model-00160-of-000163.safetensors` `model-00161-of-000163.safetensors` `model-00162-of-000163.safetensors` `model-00163-of-000163.safetensors`	1.369.062.772.000 (1.275,04 GiB / 1.369,06 GB)	`vllm, sglang, unspecified`	`file-metadata`
GGUF Q4_K_M (Unsloth) gguf-q4_k_m Rechner: GGUF Q4_K_M (Unsloth)	9 Safetensors-Shards Ausgewählte Bytes gesamt: 404.430.187.072 (376,65 GiB / 404,43 GB) Erster Shard: DeepSeek-V3-Q4_K_M/DeepSeek-V3-Q4_K_M-00001-of-00009.gguf Letzter Shard: DeepSeek-V3-Q4_K_M/DeepSeek-V3-Q4_K_M-00009-of-00009.gguf Alle 9 Shard-Dateien anzeigen `DeepSeek-V3-Q4_K_M/DeepSeek-V3-Q4_K_M-00001-of-00009.gguf` `DeepSeek-V3-Q4_K_M/DeepSeek-V3-Q4_K_M-00002-of-00009.gguf` `DeepSeek-V3-Q4_K_M/DeepSeek-V3-Q4_K_M-00003-of-00009.gguf` `DeepSeek-V3-Q4_K_M/DeepSeek-V3-Q4_K_M-00004-of-00009.gguf` `DeepSeek-V3-Q4_K_M/DeepSeek-V3-Q4_K_M-00005-of-00009.gguf` `DeepSeek-V3-Q4_K_M/DeepSeek-V3-Q4_K_M-00006-of-00009.gguf` `DeepSeek-V3-Q4_K_M/DeepSeek-V3-Q4_K_M-00007-of-00009.gguf` `DeepSeek-V3-Q4_K_M/DeepSeek-V3-Q4_K_M-00008-of-00009.gguf` `DeepSeek-V3-Q4_K_M/DeepSeek-V3-Q4_K_M-00009-of-00009.gguf`	404.430.187.072 (376,65 GiB / 404,43 GB)	`llama.cpp, ollama, unspecified`	`file-metadata`
GGUF Q5_K_M (Unsloth) gguf-q5_k_m Rechner: GGUF Q5_K_M (Unsloth)	10 Safetensors-Shards Ausgewählte Bytes gesamt: 475.396.557.600 (442,75 GiB / 475,40 GB) Erster Shard: DeepSeek-V3-Q5_K_M/DeepSeek-V3-Q5_K_M-00001-of-00010.gguf Letzter Shard: DeepSeek-V3-Q5_K_M/DeepSeek-V3-Q5_K_M-00010-of-00010.gguf Alle 10 Shard-Dateien anzeigen `DeepSeek-V3-Q5_K_M/DeepSeek-V3-Q5_K_M-00001-of-00010.gguf` `DeepSeek-V3-Q5_K_M/DeepSeek-V3-Q5_K_M-00002-of-00010.gguf` `DeepSeek-V3-Q5_K_M/DeepSeek-V3-Q5_K_M-00003-of-00010.gguf` `DeepSeek-V3-Q5_K_M/DeepSeek-V3-Q5_K_M-00004-of-00010.gguf` `DeepSeek-V3-Q5_K_M/DeepSeek-V3-Q5_K_M-00005-of-00010.gguf` `DeepSeek-V3-Q5_K_M/DeepSeek-V3-Q5_K_M-00006-of-00010.gguf` `DeepSeek-V3-Q5_K_M/DeepSeek-V3-Q5_K_M-00007-of-00010.gguf` `DeepSeek-V3-Q5_K_M/DeepSeek-V3-Q5_K_M-00008-of-00010.gguf` `DeepSeek-V3-Q5_K_M/DeepSeek-V3-Q5_K_M-00009-of-00010.gguf` `DeepSeek-V3-Q5_K_M/DeepSeek-V3-Q5_K_M-00010-of-00010.gguf`	475.396.557.600 (442,75 GiB / 475,40 GB)	`llama.cpp, ollama, unspecified`	`file-metadata`
GGUF Q6_K (Unsloth) gguf-q6_k Rechner: GGUF Q6_K (Unsloth)	12 Safetensors-Shards Ausgewählte Bytes gesamt: 550.798.326.368 (512,97 GiB / 550,80 GB) Erster Shard: DeepSeek-V3-Q6_K/DeepSeek-V3-Q6_K-00001-of-00012.gguf Letzter Shard: DeepSeek-V3-Q6_K/DeepSeek-V3-Q6_K-00012-of-00012.gguf Alle 12 Shard-Dateien anzeigen `DeepSeek-V3-Q6_K/DeepSeek-V3-Q6_K-00001-of-00012.gguf` `DeepSeek-V3-Q6_K/DeepSeek-V3-Q6_K-00002-of-00012.gguf` `DeepSeek-V3-Q6_K/DeepSeek-V3-Q6_K-00003-of-00012.gguf` `DeepSeek-V3-Q6_K/DeepSeek-V3-Q6_K-00004-of-00012.gguf` `DeepSeek-V3-Q6_K/DeepSeek-V3-Q6_K-00005-of-00012.gguf` `DeepSeek-V3-Q6_K/DeepSeek-V3-Q6_K-00006-of-00012.gguf` `DeepSeek-V3-Q6_K/DeepSeek-V3-Q6_K-00007-of-00012.gguf` `DeepSeek-V3-Q6_K/DeepSeek-V3-Q6_K-00008-of-00012.gguf` `DeepSeek-V3-Q6_K/DeepSeek-V3-Q6_K-00009-of-00012.gguf` `DeepSeek-V3-Q6_K/DeepSeek-V3-Q6_K-00010-of-00012.gguf` `DeepSeek-V3-Q6_K/DeepSeek-V3-Q6_K-00011-of-00012.gguf` `DeepSeek-V3-Q6_K/DeepSeek-V3-Q6_K-00012-of-00012.gguf`	550.798.326.368 (512,97 GiB / 550,80 GB)	`llama.cpp, ollama, unspecified`	`file-metadata`
INT4 theoretical	Keine veröffentlichte Datei	342.265.693.000 (Theoretische Zeilen sind keine herunterladbaren Artefakte.)	—	theoretical

Speicher nach Quantisierung und Kontext

Gleichzeitige Sequenzen = 1. KV ist standardmäßig FP16. Die Spanne enthält dokumentierte Laufzeit-Zusätze der genannten Engine. Die Zahlen nutzen denselben Kern wie der interaktive Rechner.

Quantisierung	2.048 tokens	8.192 tokens	32.768 tokens
FP8 safetensors	1.275,80 GiB–1.469,35 GiB	1.276,20 GiB–1.469,90 GiB	1.277,81 GiB–1.472,09 GiB
GGUF Q4_K_M (Unsloth)	376,91 GiB–442,57 GiB	377,32 GiB–443,15 GiB	378,92 GiB–445,43 GiB
GGUF Q5_K_M (Unsloth)	443,01 GiB–520,10 GiB	443,41 GiB–520,68 GiB	445,02 GiB–522,95 GiB
GGUF Q6_K (Unsloth)	513,23 GiB–602,47 GiB	513,63 GiB–603,05 GiB	515,24 GiB–605,32 GiB
INT4 theoretical Theoretische Zeilen sind keine herunterladbaren Artefakte.	319,02 GiB–411,32 GiB	319,42 GiB–411,90 GiB	321,03 GiB–414,17 GiB

KV-Cache (Rohdaten)

Rechner mit diesem Modell öffnen

Quellen

DeepSeek-V3 model card
config.json — revision e815299b0bcbac849fa540c768ef21845365c9eb
safetensors index — metadata.total_size=1369062772000
Artifact repo unsloth/DeepSeek-V3-GGUF

Annahmen, die das Ergebnis beeinflussen

Der Kontext liegt im dokumentierten nativen Fenster von 163840 Tokens.
Die vollständige Residenzschätzung nutzt die Gesamtparameter, inklusive inaktiver MoE-Experten.
Dieses MoE nennt 684531386000 Gesamt- und 37000000000 aktive Parameter. Die aktive Rechenmenge ist nicht die Gewichtresidenz.
Gewichtbytes kommen nur von den gewählten Dateien, nicht von allen Quantisierungen im Repository.
Die Downloadgröße ist nicht der GPU-Spitzenspeicher. Layout, Allocator und KV kommen extra.
Gewichtbytes stammen aus 9 veröffentlichten Safetensors-Shards, zusammen 404430187072 Bytes.
MTP-/Draft-Gewichte existieren und zählen nur wenn aktiviert.
Das Kontextbudget ist die Zahl gecachter Tokens je Sequenz (Prompt plus reservierte Generierung).

Rechner

Katalog-Snapshot wird geladen…

Zuerst ein Modell wählen, danach das Gerät prüfen.

Modell

Historische Modelle anzeigen

Quantisierung

Gerätetyp

Hardware

Last

Die Kontextlänge betrifft vor allem den KV-Cache.

Erweiterte Einstellungen

Laufzeit

Engine und KV-Cache-Typ für diese Schätzung.

LaufzeitKV-Cache-TypRecurrent-/Conv-State-Datentyp Theoretische Schätzungen einbeziehen (Experte) Ersatz erlauben, wenn der Filter nichts trifft

Arbeitslast

Overhead-Szenario und der Prefill-Arbeitsspeicher.

Szenario für Laufzeitoverhead Größeren Prefill-Arbeitsspeicher einbeziehen

Topologie

Wie das Modell auf Geräte verteilt wird. Speicher wird nicht addiert.

VerteilungSplit in der ReplikaAnzahl Geräte

Replikatzahl ist eine erweiterte Option. Anzahl meint Knoten oder GPUs, nicht Replikate.

ReplikagruppenGeräte je Replika

Budget

Systemreserve und Sicherheitsmarge. Ein leeres Feld behält den vorherigen Wert.

Reserve für System / Anzeige

GiB (2^30 Byte)

Budget enthält die Systemreserve bereits nicht mehrZusätzliche Sicherheitsmarge

Effektive Bits je Parameter (eigene Angabe)Anzeigeeinheit

Eigenes Modell

Konfiguration importieren oder die Architektur eintragen. Vor dem Import wird nichts gescannt.

Lokale config.json laden

Die Datei wird nur im Browser gelesen und nicht hochgeladen.

Öffentliches Hugging-Face-RepoRevision

Nur huggingface.co, nur config.json, kein Token. Private Repos werden abgelehnt.

Parameter gesamtAktive ParameterSchichtenQuery-KöpfeKV-KöpfeKopfdimension

Suchen oder ein Katalogmodell wählen, um den VRAM-Bedarf zu sehen.

Suchen oder ein Katalogmodell wählen, um den VRAM-Bedarf zu sehen.

DeepSeek-V3: VRAM- und Speicherbedarf

Herausgeber und Herkunft

Speicherschichten in dieser Schätzung

Gewählte Dateien

Speicher nach Quantisierung und Kontext

KV-Cache (Rohdaten)

Verwandte Seiten

Quellen

Annahmen, die das Ergebnis beeinflussen

Rechner