DGX Spark GB10（128 GB unified）で動くローカルLLM

DGX Spark (GB10) のメモリは 128 GB LPDDR5x coherent unified system memory で、CPU と GPU が共有します。システム用に 16 GiB を予約すると、モデルに使えるのは約 112 GiB です。 8K コンテキストで収まる一覧中最大のモデルは gpt-oss-120b（MXFP4、約 62.8 GiB）です。 Qwen3.8-Flash-Next（Q4_K_M）はぎりぎりです（約 111.8 GiB–131.5 GiB）。

これはモデルの config とファイルサイズからの推定で、実測ではありません。 計算方法

8K で収まるモデル

各モデルは収まる中で最も精度の高いファイルを使い、同時に 1 会話です。

収まる (65)

モデル量子化合計
GLM-4.5-AirGGUF Q6_K (Unsloth)93.8 GiB–96.1 GiB
Qwen3-Next-80B-A3B-InstructGGUF Q8_0 (Qwen)79.9 GiB–81.9 GiB
Qwen2.5-72B-InstructGGUF Q8_0 (Qwen)74.8 GiB–76.8 GiB
Llama-3.1-Nemotron-70B-Instruct-HFGGUF Q8_0 (bartowski)72.5 GiB–74.4 GiB
gpt-oss-120bMXFP4 safetensors61.2 GiB–62.8 GiB
Mixtral-8x7B-Instruct-v0.1GGUF Q8_0 (mradermacher)47.3 GiB–48.7 GiB
Qwen2.5-32B-InstructGGUF Q8_0 (Qwen)34.6 GiB–35.7 GiB
Qwen2.5-VL-32B-InstructGGUF Q8_0 (mradermacher)34.6 GiB–35.7 GiB
Qwen2.5-Coder-32B-InstructGGUF Q8_0 (Qwen)34.6 GiB–35.7 GiB
QwQ-32BGGUF Q8_0 (Qwen)34.6 GiB–35.7 GiB
DeepSeek-R1-Distill-Qwen-32BGGUF Q8_0 (Unsloth)34.6 GiB–35.7 GiB
OpenMath-Nemotron-32BGGUF Q8_0 (mradermacher)34.6 GiB–35.7 GiB
Qwen3-32BGGUF Q8_0 (Qwen)34.6 GiB–35.7 GiB
Qwen3.8-27BGGUF Q8_0 (Unsloth)27.8 GiB–33.1 GiB
Qwen3-VL-30B-A3B-InstructGGUF Q8_0 (Qwen)31.1 GiB–32.2 GiB
Qwen3-30B-A3B-Instruct-2507GGUF Q8_0 (Unsloth)31.1 GiB–32.2 GiB
Qwen3-30B-A3BGGUF Q8_031.1 GiB–32.2 GiB
Drama 3Unofficial int4 W4A16 (GPTQ-Marlin, with codec)22.7 GiB–27.0 GiB
Mistral-Small-24B-Instruct-2501GGUF Q8_0 (Unsloth)24.7 GiB–25.6 GiB
DeepSeek-V2-Lite-ChatGGUF Q8_0 (mradermacher)15.9 GiB–19.2 GiB
Gemma 3 27B ITGGUF Q4_0 (Google QAT)17.2 GiB–18.0 GiB
Qwen2.5-14B-InstructGGUF Q8_016.2 GiB–17.0 GiB
Qwen2.5-Coder-14B-InstructGGUF Q8_0 (Qwen)16.2 GiB–17.0 GiB
OpenMath-Nemotron-14BGGUF Q8_0 (mradermacher)16.2 GiB–17.0 GiB
Phi-4-reasoningGGUF Q8_0 (Unsloth)16.2 GiB–17.0 GiB
phi-4GGUF Q8_0 (Microsoft)16.2 GiB–17.0 GiB
Llama 3.1 8B InstructOfficial BF16 safetensors16.1 GiB–16.8 GiB
Qwen3-14BGGUF Q8_0 (Qwen)16.0 GiB–16.8 GiB
Mistral-Nemo-Instruct-2407GGUF Q8_0 (Unsloth)13.5 GiB–14.2 GiB
gpt-oss-20bMXFP4 safetensors13.1 GiB–13.8 GiB
GLM-4-9B-0414GGUF Q8_0 (Unsloth)9.8 GiB–10.3 GiB
granite-3.3-8b-instructGGUF Q8_0 (IBM)9.5 GiB–10.1 GiB
Qwen3-VL-8B-InstructGGUF Q8_0 (Qwen)9.4 GiB–10.0 GiB
Qwen3-8B-BaseGGUF Q8_0 (mradermacher)9.4 GiB–10.0 GiB
Qwen3-8BGGUF Q8_09.4 GiB–10.0 GiB
Qwen2.5-Math-7B-InstructGGUF Q8_0 (bartowski)8.1 GiB–10.0 GiB
DeepSeek-R1-Distill-Llama-8BGGUF Q8_0 (Unsloth)9.1 GiB–9.7 GiB
Gemma 3 12B ITGGUF Q4_0 (Google QAT)8.5 GiB–9.0 GiB
Mistral-7B-Instruct-v0.3GGUF Q8_0 (bartowski)8.3 GiB–8.9 GiB
Qwen2.5-Coder-7BGGUF Q8_0 (mradermacher)8.1 GiB–8.7 GiB
Qwen2.5-Coder-7B-InstructGGUF Q8_0 (Qwen)8.1 GiB–8.7 GiB
Qwen2.5-7B-InstructGGUF Q8_08.1 GiB–8.7 GiB
DeepSeek-R1-Distill-Qwen-7BGGUF Q8_0 (Unsloth)8.1 GiB–8.7 GiB
OpenMath-Nemotron-7BGGUF Q8_0 (mradermacher)8.1 GiB–8.7 GiB
Qwen2.5-VL-7B-InstructGGUF Q8_0 (Unsloth)8.1 GiB–8.7 GiB
Qwen2-7B-InstructGGUF Q8_0 (Qwen)8.1 GiB–8.7 GiB
Phi-3.5-mini-instructGGUF Q8_0 (bartowski)6.9 GiB–7.6 GiB
Llama 3.2 3B InstructOfficial BF16 safetensors7.0 GiB–7.5 GiB
Qwen3-VL-4B-InstructGGUF Q8_0 (Qwen)5.2 GiB–5.8 GiB
Qwen3-4B-Instruct-2507GGUF Q8_0 (Unsloth)5.2 GiB–5.8 GiB
Qwen3-4BGGUF Q8_05.2 GiB–5.8 GiB
Phi-4-mini-instructGGUF Q8_0 (Unsloth)4.9 GiB–5.5 GiB
Qwen2.5-Coder-3B-InstructGGUF Q8_0 (Qwen)3.8 GiB–4.2 GiB
Qwen2.5-3B-InstructGGUF Q8_03.8 GiB–4.2 GiB
Qwen2.5-VL-3B-InstructGGUF Q8_0 (Unsloth)3.5 GiB–3.9 GiB
SmolLM2-1.7B-InstructGGUF Q8_0 (Unsloth)3.3 GiB–3.8 GiB
Gemma 3 4B ITGGUF Q4_0 (Google QAT)3.3 GiB–3.8 GiB
Qwen3-1.7B-BaseGGUF Q8_0 (mradermacher)2.7 GiB–3.2 GiB
Qwen3-1.7BGGUF Q8_02.7 GiB–3.2 GiB
Llama 3.2 1B InstructOfficial BF16 safetensors2.7 GiB–3.1 GiB
Qwen2.5-Coder-1.5B-InstructGGUF Q8_0 (Qwen)2.1 GiB–2.5 GiB
Qwen2.5-1.5B-InstructGGUF Q8_0 (Qwen)2.1 GiB–2.5 GiB
Qwen3-0.6BGGUF Q8_0 (Qwen)1.6 GiB–2.0 GiB
Gemma 3 1B ITGGUF Q4_0 (Google QAT)1.1 GiB–1.5 GiB
Qwen2.5-0.5B-InstructGGUF Q8_0 (Qwen)0.8 GiB–1.2 GiB

ぎりぎり (1)

モデル量子化合計
Qwen3.8-Flash-NextGGUF Q4_K_M (bartowski)111.8 GiB–131.5 GiB
収まらない（20）

個別の組み合わせ

この機材で動作確認済みの構成

確認済みの構成 4 件

メンテナやコミュニティがこの機材で実際に動かした構成です。

DeepSeek-V4.1-Flash
2× NVIDIA DGX Spark (GB10, 128 GB unified)
上流メンテナが測定
量子化:EXL3 2.9 bpw (mul1)(2.9 bpw)
ランタイム:vLLM· TP2
オフロード:Engram n-gram tables (shards 47+48) → NVME
テスト済み:
  • ✓ テキスト生成
  • ✓ 262,144 コンテキスト
  • ✓ ツール呼び出し
  • ✓ 画像入力
  • ✓ 投機的デコード
測定値:31.6 tok/s· 1 ストリーム

検証済みのデプロイです。解説は英語です。

この構成を使うすぐ始める（英語）出典 ↗
DeepSeek-V4.1-Flash
3× NVIDIA DGX Spark (GB10, 128 GB unified)
上流メンテナが測定
量子化:Native MXFP4 MoE + FP8 Dense
ランタイム:SGLang· TP3
オフロード:Engram n-gram tables (189 GiB) → NVME
テスト済み:
  • ✓ テキスト生成
  • ✓ ~208K テスト済み (256K cfg)
  • ✓ ツール呼び出し
  • ✓ 画像入力
  • ✓ 投機的デコード
測定値:37.9 tok/s· 1 ストリーム

検証済みのデプロイです。解説は英語です。

この構成を使うすぐ始める（英語）出典 ↗
DeepSeek-V4.1-Flash
4× NVIDIA DGX Spark (GB10, 128 GB unified)
上流メンテナが測定
量子化:Native MXFP4 MoE + FP8 Dense (TP=4)
ランタイム:SGLang· TP4
オフロード:Engram n-gram tables (189 GiB) → NVME
テスト済み:
  • ✓ テキスト生成
  • ✓ 1,048,576 コンテキスト
  • ✓ ツール呼び出し
  • ✓ 画像入力
  • ✓ 投機的デコード
測定値:45.4 tok/s· 1 ストリーム

検証済みのデプロイです。解説は英語です。

この構成を使うすぐ始める（英語）出典 ↗
DeepSeek-V4-Flash-0731
2× NVIDIA DGX Spark (GB10, 128 GB unified)
上流メンテナが測定
量子化:Official FP8 Safetensors
ランタイム:vLLM· TP2
テスト済み:
  • ✓ テキスト生成
  • ✓ 1,048,576 コンテキスト
  • ✓ ツール呼び出し
  • ✓ 画像入力
  • ✓ 投機的デコード
測定値:75.4 tok/s· 1 ストリーム

検証済みのデプロイです。解説は英語です。

この構成を使うすぐ始める（英語）出典 ↗

メモリ

予約量は調整できる前提です。画面を出さないマシンなら計算機で下げられます。

ユニファイドメモリは 1 つの共有プールです。システム RAM を上乗せすることはできず、複数台でも 1 つのプールにはなりません。

このグラボで計算機を開く計算機

関連ページ

出典

計算機

公開カタログスナップショットを読み込み中…

コンテキスト長

コンテキストが長いほど、KV キャッシュ（会話を覚えておくためのメモリ）が増えます。

その他のオプション
ランタイム

この見積もりで使うエンジンと KV キャッシュの型です。

オフ: GGUF / Q8 などのフィルタは厳格です。オン: 要求・使用・理由付きで代替を示します。

ワークロード

オーバーヘッドの想定と、プリフィル作業領域を含めるかどうかです。

トポロジ

モデルを複数デバイスへどう分割するか。メモリは合算しません。

複製数は上級オプションです。台数はノードまたは GPU であり、複製数ではありません。

予算

システム予約と安全余裕。数字を空にすると直前の値を保ちます。

GiB（2^30 バイト）

%

GPU か Mac を選ぶと動くモデルが、モデルを選ぶと必要なメモリがわかります。