DGX Spark 与 RTX 5090:可用内存、带宽与目录适配
GeForce RTX 5090 32GB (desktop)是独立显存。 NVIDIA DGX Spark (GB10, 128 GB unified)是统一内存。 独立显存和统一内存不能相加,也不是同一块内存池。 净预算是目录容量减去目录默认预留:RTX 5090 为 30.00 GiB(容量 32.00 GiB,预留 2.00 GiB),DGX Spark 为 112.00 GiB(容量 128.00 GiB,预留 16.00 GiB)。 内存带宽:RTX 5090 不在目录中;DGX Spark 不在目录中。 这些列不做排序。
这里不给出解码上限。带宽不在目录中,缺带宽也不是内存判定。
目录中的内存
| NVIDIA DGX Spark (GB10, 128 GB unified) | GeForce RTX 5090 32GB (desktop) | |
|---|---|---|
| 内存类型 | unified-memory 统一内存 | discrete-vram 独立显存 |
| 标称 | 128 GB LPDDR5x coherent unified system memory | 32 GB GDDR7 |
| 容量 | 137,438,953,472 字节 = 128.00 GiB | 34,359,738,368 字节 = 32.00 GiB |
| 目录默认预留 | 17,179,869,184 字节 = 16.00 GiB | 2,147,483,648 字节 = 2.00 GiB |
| 净预算(容量减去预留) | 120,259,084,288 字节 = 112.00 GiB | 32,212,254,720 字节 = 30.00 GiB |
| 内存带宽 | 不在目录中 | 不在目录中 |
硬件记录里的软件
同一批模型在两台设备上
只用有文件体积的量化,上下文 8192,序列 1。运行时取该量化的优先引擎。格子里是区间和判定档。标成粗略表示判定为粗略。没有这种量化就留空,不改用别的量化。
| 模型 | 量化 | 运行时 | DGX Spark | RTX 5090 |
|---|---|---|---|---|
| Qwen2.5-7B-Instruct | GGUF Q4_K_Mgguf-q4_k_m | llama.cpp | 4.92 GiB–5.42 GiB · 宽裕 宽裕 | 4.92 GiB–5.42 GiB · 宽裕 宽裕 |
| Qwen3-8B | GGUF Q4_K_Mgguf-q4_k_m | llama.cpp | 5.93 GiB–6.48 GiB · 宽裕 宽裕 | 5.93 GiB–6.48 GiB · 宽裕 宽裕 |
| Qwen3.8-27B | GGUF Q4_K_M (mradermacher)gguf-q4_k_m | llama.cpp | 16.43 GiB–19.74 GiB · 宽裕 · 粗略 宽裕粗略 | 16.43 GiB–19.74 GiB · 宽裕 · 粗略 宽裕粗略 |