DGX Spark 与 RTX 5090:可用内存、带宽与目录适配

GeForce RTX 5090 32GB (desktop)是独立显存。 NVIDIA DGX Spark (GB10, 128 GB unified)是统一内存。 独立显存和统一内存不能相加,也不是同一块内存池。 净预算是目录容量减去目录默认预留:RTX 5090 为 30.00 GiB(容量 32.00 GiB,预留 2.00 GiB),DGX Spark 为 112.00 GiB(容量 128.00 GiB,预留 16.00 GiB)。 内存带宽:RTX 5090 不在目录中;DGX Spark 不在目录中。 这些列不做排序。

这里不给出解码上限。带宽不在目录中,缺带宽也不是内存判定。

目录中的内存

NVIDIA DGX Spark (GB10, 128 GB unified)GeForce RTX 5090 32GB (desktop)
内存类型unified-memory 统一内存discrete-vram 独立显存
标称128 GB LPDDR5x coherent unified system memory32 GB GDDR7
容量137,438,953,472 字节 = 128.00 GiB34,359,738,368 字节 = 32.00 GiB
目录默认预留17,179,869,184 字节 = 16.00 GiB2,147,483,648 字节 = 2.00 GiB
净预算(容量减去预留)120,259,084,288 字节 = 112.00 GiB32,212,254,720 字节 = 30.00 GiB
内存带宽不在目录中不在目录中

硬件记录里的软件

同一批模型在两台设备上

只用有文件体积的量化,上下文 8192,序列 1。运行时取该量化的优先引擎。格子里是区间和判定档。标成粗略表示判定为粗略。没有这种量化就留空,不改用别的量化。

模型量化运行时DGX SparkRTX 5090
Qwen2.5-7B-InstructGGUF Q4_K_M
gguf-q4_k_m
llama.cpp4.92 GiB–5.42 GiB · 宽裕 宽裕4.92 GiB–5.42 GiB · 宽裕 宽裕
Qwen3-8BGGUF Q4_K_M
gguf-q4_k_m
llama.cpp5.93 GiB–6.48 GiB · 宽裕 宽裕5.93 GiB–6.48 GiB · 宽裕 宽裕
Qwen3.8-27BGGUF Q4_K_M (mradermacher)
gguf-q4_k_m
llama.cpp16.43 GiB–19.74 GiB · 宽裕 · 粗略 宽裕粗略16.43 GiB–19.74 GiB · 宽裕 · 粗略 宽裕粗略