DGX Spark und RTX 5090: nutzbarer Speicher, Bandbreite und Katalogpassung

GeForce RTX 5090 32GB (desktop) ist diskreter VRAM. NVIDIA DGX Spark (GB10, 128 GB unified) ist vereinigter Speicher. Diskreter VRAM und vereinigter Speicher sind nicht additiv und nicht derselbe Pool. Das Nettobudget ist die Katalogkapazität minus der Katalog-Standardreserve: 30,00 GiB bei der RTX 5090 (32,00 GiB Kapazität, 2,00 GiB Reserve) und 112,00 GiB bei DGX Spark (128,00 GiB Kapazität, 16,00 GiB Reserve). Speicherbandbreite: RTX 5090 nicht im Katalog; DGX Spark nicht im Katalog. Die Spalten haben keine Rangfolge.

Eine Dekodierobergrenze wird nicht gezeigt. Die Bandbreite steht nicht im Katalog, und eine fehlende Bandbreite ist kein Speicherurteil.

Speicher laut Katalog

NVIDIA DGX Spark (GB10, 128 GB unified)GeForce RTX 5090 32GB (desktop)
Speicherartunified-memory vereinigter Speicherdiscrete-vram diskreter VRAM
Vermarktete Angabe128 GB LPDDR5x coherent unified system memory32 GB GDDR7
Kapazität137.438.953.472 Bytes = 128,00 GiB34.359.738.368 Bytes = 32,00 GiB
Katalog-Standardreserve17.179.869.184 Bytes = 16,00 GiB2.147.483.648 Bytes = 2,00 GiB
Nettobudget (Kapazität minus Reserve)120.259.084.288 Bytes = 112,00 GiB32.212.254.720 Bytes = 30,00 GiB
Speicherbandbreitenicht im Katalognicht im Katalog

Software im Hardware-Eintrag

Dieselben Modelle auf beiden Geräten

Nur eine dateigestützte Quantisierung, Kontext 8192, 1 Sequenz. Die Laufzeit ist die bevorzugte Laufzeit dieser Quantisierung. Bereich und Stufe kommen aus dem Rechner. Grob heißt, dass die Beurteilung grob ist. Eine fehlende Quantisierung bleibt leer und wird nicht ersetzt.

ModellQuantisierungLaufzeitDGX SparkRTX 5090
Qwen2.5-7B-InstructGGUF Q4_K_M
gguf-q4_k_m
llama.cpp4,92 GiB–5,42 GiB · komfortabel komfortabel4,92 GiB–5,42 GiB · komfortabel komfortabel
Qwen3-8BGGUF Q4_K_M
gguf-q4_k_m
llama.cpp5,93 GiB–6,48 GiB · komfortabel komfortabel5,93 GiB–6,48 GiB · komfortabel komfortabel
Qwen3.8-27BGGUF Q4_K_M (mradermacher)
gguf-q4_k_m
llama.cpp16,43 GiB–19,74 GiB · komfortabel · grob komfortabelgrob16,43 GiB–19,74 GiB · komfortabel · grob komfortabelgrob