Qwen3-8B-Base VRAM-Bedarf: ca. 7,0 GB (Q4_K_M) bis ca. 20,3 GB (BF16)

Läuft auf

Läuft Qwen3-8B-Base auf RTX 4070?

Herausgeber und Herkunft

AnbieterQwen
Hugging FaceQwen/Qwen3-8B-Base
Revision49e3418fbbbca6ecbdf9608b4d22e5a407081db4
Parameter gesamt8.190.735.360
Schichten36
Query-Köpfe32
KV-Köpfe8 (gqa)
Kopfdimension128
Dokumentierte Kontextfähigkeit32.768
Vollständigkeitcomplete · full

Speicherschichten in dieser Schätzung

Datei-Bytes, rohes KV, Engine-Zusätze und Gesamtbedarf stehen getrennt. Das ist keine Laufzeitspur.

Weight artifact: 4,68 GiB (5.027.783.936 bytes)
Raw KV cache: 1,13 GiB (1.207.959.552 bytes)
Engine extras / workspace: 0,13 GiB–0,67 GiB
Total estimated demand: 5,93 GiB–6,48 GiB

Gewählte Dateien

Quantisierung	Gewählte Dateien	Bytes	Laufzeit	Beleg
BF16 safetensors bf16 Rechner: BF16 safetensors	5 Safetensors-Shards Ausgewählte Bytes gesamt: 16.383.567.872 (15,26 GiB / 16,38 GB) Erster Shard: model-00001-of-00005.safetensors Letzter Shard: model-00005-of-00005.safetensors Alle 5 Shard-Dateien anzeigen `model-00001-of-00005.safetensors` `model-00002-of-00005.safetensors` `model-00003-of-00005.safetensors` `model-00004-of-00005.safetensors` `model-00005-of-00005.safetensors`	16.383.567.872 (15,26 GiB / 16,38 GB)	`vllm, sglang, unspecified`	`file-metadata`
GGUF Q4_K_M (mradermacher) gguf-q4_k_m Rechner: GGUF Q4_K_M (mradermacher)	Qwen3-8B-Base.Q4_K_M.gguf	5.027.783.936 (4,68 GiB / 5,03 GB)	`llama.cpp, ollama, unspecified`	`file-metadata`
GGUF Q5_K_M (mradermacher) gguf-q5_k_m Rechner: GGUF Q5_K_M (mradermacher)	Qwen3-8B-Base.Q5_K_M.gguf	5.851.112.704 (5,45 GiB / 5,85 GB)	`llama.cpp, ollama, unspecified`	`file-metadata`
GGUF Q6_K (mradermacher) gguf-q6_k Rechner: GGUF Q6_K (mradermacher)	Qwen3-8B-Base.Q6_K.gguf	6.725.899.520 (6,26 GiB / 6,73 GB)	`llama.cpp, ollama, unspecified`	`file-metadata`
GGUF Q8_0 (mradermacher) gguf-q8_0 Rechner: GGUF Q8_0 (mradermacher)	Qwen3-8B-Base.Q8_0.gguf	8.709.518.592 (8,11 GiB / 8,71 GB)	`llama.cpp, ollama, unspecified`	`file-metadata`
INT4 theoretical	Keine veröffentlichte Datei	4.095.367.680 (Theoretische Zeilen sind keine herunterladbaren Artefakte.)	—	theoretical

Speicher nach Quantisierung und Kontext

Gleichzeitige Sequenzen = 1. KV ist standardmäßig FP16. Die Spanne enthält dokumentierte Laufzeit-Zusätze der genannten Engine. Die Zahlen nutzen denselben Kern wie der interaktive Rechner.

Quantisierung	2.048 tokens	8.192 tokens	32.768 tokens
BF16 safetensors	16,16 GiB–18,05 GiB	17,01 GiB–18,92 GiB	20,38 GiB–22,39 GiB
GGUF Q4_K_M (mradermacher)	5,09 GiB–5,56 GiB	5,93 GiB–6,48 GiB	9,31 GiB–10,09 GiB
GGUF Q5_K_M (mradermacher)	5,86 GiB–6,35 GiB	6,70 GiB–7,26 GiB	10,07 GiB–10,87 GiB
GGUF Q6_K (mradermacher)	6,67 GiB–7,18 GiB	7,51 GiB–8,09 GiB	10,89 GiB–11,70 GiB
GGUF Q8_0 (mradermacher)	8,52 GiB–9,06 GiB	9,36 GiB–9,98 GiB	12,74 GiB–13,59 GiB
INT4 theoretical Theoretische Zeilen sind keine herunterladbaren Artefakte.	4,22 GiB–5,82 GiB	5,06 GiB–6,87 GiB	8,44 GiB–11,02 GiB

KV-Cache (Rohdaten)

Rohes GQA/MHA-KV ist 2 × Schichten × kvHeads × headDim × Tokens × Sequenzen × Bytes je Element. Diese Seite nutzt KV-Heads (8), nicht Query-Heads (32).

8,192 tokens, 1 sequence, FP16: 1.207.959.552 bytes (1,1250 GiB)
32,768 tokens: 4.831.838.208 bytes (4,5000 GiB)

Quellen

Qwen3-8B-Base model card
config.json — revision 49e3418fbbbca6ecbdf9608b4d22e5a407081db4
safetensors index — metadata.total_size=16383567872
Artifact repo mradermacher/Qwen3-8B-Base-GGUF

Annahmen, die das Ergebnis beeinflussen

Der Kontext liegt im dokumentierten nativen Fenster von 32768 Tokens.
Die vollständige Residenzschätzung nutzt die Gesamtparameter, inklusive inaktiver MoE-Experten.
Gewichtbytes kommen nur von den gewählten Dateien, nicht von allen Quantisierungen im Repository.
Die Downloadgröße ist nicht der GPU-Spitzenspeicher. Layout, Allocator und KV kommen extra.
Berücksichtigte Dateien: Qwen3-8B-Base.Q4_K_M.gguf.
Das Kontextbudget ist die Zahl gecachter Tokens je Sequenz (Prompt plus reservierte Generierung).
Gleichzeitige Sequenzen teilen eine Modellkopie; Gewichte werden nicht mit der Sequenzzahl multipliziert.
Der KV-Datentyp ist unabhängig von der Gewichtquantisierung, außer Sie ändern ihn.

Rechner

Katalog-Snapshot wird geladen…

Zuerst ein Modell wählen, danach das Gerät prüfen.

Modell

Historische Modelle anzeigen

Quantisierung

Gerätetyp

Hardware

Last

Die Kontextlänge betrifft vor allem den KV-Cache.

Erweiterte Einstellungen

Laufzeit

Engine und KV-Cache-Typ für diese Schätzung.

LaufzeitKV-Cache-TypRecurrent-/Conv-State-Datentyp Theoretische Schätzungen einbeziehen (Experte) Ersatz erlauben, wenn der Filter nichts trifft

Arbeitslast

Overhead-Szenario und der Prefill-Arbeitsspeicher.

Szenario für Laufzeitoverhead Größeren Prefill-Arbeitsspeicher einbeziehen

Topologie

Wie das Modell auf Geräte verteilt wird. Speicher wird nicht addiert.

VerteilungSplit in der ReplikaAnzahl Geräte

Replikatzahl ist eine erweiterte Option. Anzahl meint Knoten oder GPUs, nicht Replikate.

ReplikagruppenGeräte je Replika

Budget

Systemreserve und Sicherheitsmarge. Ein leeres Feld behält den vorherigen Wert.

Reserve für System / Anzeige

GiB (2^30 Byte)

Budget enthält die Systemreserve bereits nicht mehrZusätzliche Sicherheitsmarge

%

Effektive Bits je Parameter (eigene Angabe)Anzeigeeinheit

Eigenes Modell

Konfiguration importieren oder die Architektur eintragen. Vor dem Import wird nichts gescannt.

Lokale config.json laden

Die Datei wird nur im Browser gelesen und nicht hochgeladen.

Öffentliches Hugging-Face-RepoRevision

Nur huggingface.co, nur config.json, kein Token. Private Repos werden abgelehnt.

Parameter gesamtAktive ParameterSchichtenQuery-KöpfeKV-KöpfeKopfdimension

Suchen oder ein Katalogmodell wählen, um den VRAM-Bedarf zu sehen.

Suchen oder ein Katalogmodell wählen, um den VRAM-Bedarf zu sehen.

Qwen3-8B-Base: VRAM- und Speicherbedarf