DGX Spark: Was läuft auf 128 GB gemeinsamem Speicher?
Eine DGX Spark hat 128 GiB Speicher, den sich CPU und GPU teilen. Nach 16 GiB Reserve für das Betriebssystem bleiben fürs Modell 112 GiB. Das größte Modell aus unserer Liste, das bei 8.192 Token Kontext sauber auf eine Einheit passt, ist gpt-oss-120b mit MXFP4 (61,7 GiB bis 63,6 GiB). Mehrere Sparks ergeben keinen gemeinsamen Pool; jede Einheit hält ihren eigenen Teil des Modells.
Eine Spark, Modell für Modell
| Modell | Beste Datei, die läuft | Gesamt bei 8.192 | Ergebnis | Kleinste Datei |
|---|---|---|---|---|
| gpt-oss-120b | MXFP4 | 61,7 GiB bis 63,6 GiB | Reichlich Platz | MXFP4, 60,8 GiB |
| Qwen2.5-72B-Instruct | Q8_0 | 74,8 GiB bis 76,8 GiB | Reichlich Platz | Q4_K_M, 41,0 GiB |
| Qwen3-235B-A22B | keine | k. A. | Nein | Q4_K_M, 132,4 GiB |
| Llama 3.3 70B Instruct | keine | k. A. | Nein | BF16, 131,4 GiB |
| Gemma 3 27B IT | BF16 | 52,8 GiB bis 54,7 GiB | Reichlich Platz | Q4_0, 16,0 GiB |
| Qwen3-32B | BF16 | 63,6 GiB bis 65,6 GiB | Reichlich Platz | Q4_K_M, 18,4 GiB |
| Qwen3-30B-A3B | BF16 | 58,2 GiB bis 60,1 GiB | Reichlich Platz | Q4_K_M, 17,3 GiB |
| Mistral-Small-24B-Instruct-2501 | BF16 | 45,8 GiB bis 47,7 GiB | Reichlich Platz | Q4_K_M, 13,3 GiB |
| gpt-oss-20b | MXFP4 | 13,6 GiB bis 15,5 GiB | Reichlich Platz | MXFP4, 12,8 GiB |
| Llama 3.1 8B Instruct | BF16 | 16,6 GiB bis 18,5 GiB | Reichlich Platz | BF16, 15,0 GiB |
Schätzung für 112 GiB nutzbaren Speicher, llama.cpp, eine Anfrage, KV-Cache in FP16. „Nein“ heißt: Schon die kleinste Datei ist zu groß. Wir haben keines dieser Modelle auf einer Spark gemessen, deshalb gibt es keine Tempoangaben.
Rezepte für die DGX Spark
Die Rezepte sind veröffentlichte Setups anderer Nutzer, jeweils mit Quellen und Prüfdatum. Die Rezeptseiten gibt es nur auf Englisch; dort stehen Dateigrößen, Laufzeitversion und was getestet wurde.
- DeepSeek-V4.1-Flash on 2× DGX Spark (EXL3 2.9 bpw) (Englisch): 2 Sparks, vLLM, Prüfdatum 2026-09-23.
- DeepSeek-V4.1-Flash on 3× DGX Spark (SGLang MXFP4 / FP8) (Englisch): 3 Sparks, SGLang, Prüfdatum 2026-09-23.
- DeepSeek-V4.1-Flash on 4× DGX Spark (1M Long-Context Setup) (Englisch): 4 Sparks, SGLang, Prüfdatum 2026-09-23.
- DeepSeek-V4-Flash-0731 on 2× DGX Spark (DSpark Speculative) (Englisch): 2 Sparks, vLLM, Prüfdatum 2026-09-23.
Ähnliche Geräte mit 128 GB gemeinsamem Speicher
| Gerät | Kapazität | Standardreserve | Modellbudget |
|---|---|---|---|
| NVIDIA DGX Spark (GB10, 128 GB unified) | 128 GiB | 16 GiB | 112 GiB |
| Ryzen AI Max+ 395 | 128 GiB | 32 GiB | 96 GiB |
| Apple M4 Max 128GB unified (MacBook Pro) | 128 GiB | 12 GiB | 116 GiB |
Die Reserven unterscheiden sich, weil die Quellen sich unterscheiden. Die Speicherbandbreite ist je Gerät verschieden; wir rechnen sie hier nicht in Geschwindigkeit um.
Gemeinsamer Speicher ist kein Grafikspeicher
Die Spark teilt den Speicher mit dem System. Das Nettobudget oben ist Kapazität minus Reserve, kein eigener Grafikspeicher und keine Summe aus VRAM und RAM. Den VRAM-Bedarf eines einzelnen lokalen LLM rechnen Sie im VRAM-Rechner für lokale LLMs nach.
Datenquellen
- NVIDIA DGX Spark product page — 128 GB LPDDR5x coherent unified system memory. This is not dedicated VRAM. Default reserve deducts OS and other processes. Multiple Sparks are not one pool.
- NVIDIA DGX Spark hardware docs — 128 GB LPDDR5x unified memory on the GB10 Superchip.
- AMD Ryzen AI Max+ 395 specifications — System Memory Type 256-bit LPDDR5x; Max. Memory 128 GB; Max Memory Speed LPDDR5x-8000; Graphics Model Radeon 8060S; Graphics Core Count 40; Default TDP 55 W, cTDP 45-120 W
- AMD FAQ: Variable Graphics Memory — The 128 GB Ryzen AI Max+ 395 machine can dedicate up to 96 GB to the iGPU with Variable Graphics Memory (BIOS-level; Adrenalin 25.8.1 or later on Windows). That memory is removed from system RAM.