余裕あり:Qwen3.8-27B は DGX Spark (GB10) で必要VRAM 21.20 GiB(粗い見積もり)
余裕あり。DGX Spark (GB10)(128 GB LPDDR5x coherent unified system memory)で必要VRAM 17.61 GiB–21.20 GiB、正味 112.00 GiB。GGUF UD-Q4_K_M (Unsloth)、32,768 トークン。粗い見積もり 128 GB LPDDR5x coherent unified system memory は独立したVRAMではない。
1つの設定に対する条件付きの判断です。コンテキスト・量子化・エンジンを変えると結論も変わります。 このページの設定: GGUF UD-Q4_K_M (Unsloth)、キャッシュ 32,768 トークン、シーケンス 1、エンジン llama.cpp。 判定: 載る見込み。ソフトウェア: 未確認。.
載る見込み未確認これは見積もりであり、実機トレースではありません。
このページの固定設定
- モデルQwen3.8-27B
- ハードウェアNVIDIA DGX Spark (GB10, 128 GB unified)
- 量子化GGUF UD-Q4_K_M (Unsloth)
- コンテキスト長(キャッシュするトークン数)32,768
- 実行エンジン
llama.cpp - 同時シーケンス数1
- KV Cache の精度fp16
技術識別子と共有データ
- モデル
qwen3.8-27b - ハードウェア
nvidia-dgx-spark-128gb-unified - 量子化
gguf-ud-q4_k_m - この構成の共有フラグメント
v2.eyJzY2hlbWFWZXJzaW9uIjoyLCJjYWxjdWxhdG9yVmVyc2lvbiI6IjAuMy4wIiwiZGF0YXNldFZlcnNpb24iOiIyMDI2LTEwLTAyLjEiLCJjb25maWciOnsibW9kZWxJZCI6InF3ZW4zLjgtMjdiIiwiaGFyZHdhcmVJZCI6Im52aWRpYS1kZ3gtc3BhcmstMTI4Z2ItdW5pZmllZCIsImRldmljZUNvdW50IjoxLCJxdWFudGl6YXRpb25JZCI6ImdndWYtdWQtcTRfa19tIiwiY29udGV4dFRva2VucyI6MzI3NjgsImNvbmN1cnJlbnRTZXF1ZW5jZXMiOjEsImVuZ2luZSI6ImxsYW1hLmNwcCIsImt2VHlwZSI6ImZwMTYifX0
メモリ内訳
- Weight artifact
- 15.33 GiB (16,464,440,224 bytes)
- Raw KV cache
- 2.00 GiB (2,147,483,648 bytes)
- Engine extras / workspace
- 0.27 GiB–3.87 GiB
- Total estimated demand
- 17.61 GiB–21.20 GiB
- Net calculator budget
- 112.00 GiB
- OS / display reserve
- 16.00 GiB
- Remaining vs net budget
- 90.80 GiB–94.39 GiB
高い見積もり 21.20 GiB、正味 112.00 GiB
メモリが足りても、指定のエンジン・量子化・OS で動くとは限りません。動いても速いとは限りません。
このデバイスでのほかの公開ファイル
同じモデル・デバイス・コンテキスト(32,768 トークン、1 シーケンス、FP16 KV)。各行は公開済みの重みファイル一式とその標準エンジンで、メモリの大きい順に並べています。
公開ファイル 28 件をすべて表示
| 量子化 | 実行エンジン | 推定メモリ | 適合 |
|---|---|---|---|
| BF16 safetensors | vllm | 54.52 GiB–64.93 GiB | 余裕あり · 粗い見積もり |
| GGUF BF16 (Unsloth) | llama.cpp | 53.18 GiB–62.93 GiB | 余裕あり · 粗い見積もり |
| GGUF UD-Q8_K_XL (Unsloth) | llama.cpp | 31.57 GiB–37.58 GiB | 余裕あり · 粗い見積もり |
| GGUF Q8_0 (Unsloth) | llama.cpp | 29.33 GiB–34.95 GiB | 余裕あり · 粗い見積もり |
| GGUF Q8_0 (mradermacher) | llama.cpp | 29.33 GiB–34.95 GiB | 余裕あり · 粗い見積もり |
| GGUF UD-Q6_K_XL (Unsloth) | llama.cpp | 25.83 GiB–30.86 GiB | 余裕あり · 粗い見積もり |
| GGUF Q6_K (mradermacher) | llama.cpp | 23.16 GiB–27.72 GiB | 余裕あり · 粗い見積もり |
| GGUF UD-Q5_K_M (Unsloth) | llama.cpp | 20.69 GiB–24.82 GiB | 余裕あり · 粗い見積もり |
| GGUF Q5_K_M (mradermacher) | llama.cpp | 20.47 GiB–24.56 GiB | 余裕あり · 粗い見積もり |
| GGUF Q5_K_S (mradermacher) | llama.cpp | 19.94 GiB–23.94 GiB | 余裕あり · 粗い見積もり |
| GGUF UD-Q4_K_XL (Unsloth) | llama.cpp | 18.63 GiB–22.40 GiB | 余裕あり · 粗い見積もり |
| GGUF Q4_1 (Unsloth) | llama.cpp | 18.61 GiB–22.38 GiB | 余裕あり · 粗い見積もり |
| GGUF Q4_K_M (mradermacher) | llama.cpp | 17.93 GiB–21.58 GiB | 余裕あり · 粗い見積もり |
| GGUF UD-Q4_K_M (Unsloth) このページ | llama.cpp | 17.61 GiB–21.20 GiB | 余裕あり · 粗い見積もり |
| GGUF Q4_0 (Unsloth) | llama.cpp | 17.23 GiB–20.76 GiB | 余裕あり · 粗い見積もり |
| GGUF Q4_K_S (mradermacher) | llama.cpp | 17.01 GiB–20.51 GiB | 余裕あり · 粗い見積もり |
| GGUF IQ4_XS (mradermacher) | llama.cpp | 16.63 GiB–20.06 GiB | 余裕あり · 粗い見積もり |
| GGUF Q3_K_L (mradermacher) | llama.cpp | 15.83 GiB–19.12 GiB | 余裕あり · 粗い見積もり |
| GGUF UD-IQ4_XS (Unsloth) | llama.cpp | 15.55 GiB–18.79 GiB | 余裕あり · 粗い見積もり |
| GGUF Q3_K_M (mradermacher) | llama.cpp | 14.85 GiB–17.97 GiB | 余裕あり · 粗い見積もり |
| GGUF Q3_K_S (mradermacher) | llama.cpp | 13.69 GiB–16.61 GiB | 余裕あり · 粗い見積もり |
| GGUF UD-IQ3_S (Unsloth) | llama.cpp | 13.49 GiB–16.37 GiB | 余裕あり · 粗い見積もり |
| GGUF UD-IQ3_XXS (Unsloth) | llama.cpp | 12.46 GiB–15.16 GiB | 余裕あり · 粗い見積もり |
| GGUF Q2_K (mradermacher) | llama.cpp | 12.39 GiB–15.09 GiB | 余裕あり · 粗い見積もり |
| GGUF UD-IQ2_S (Unsloth) | llama.cpp | 10.07 GiB–12.36 GiB | 余裕あり · 粗い見積もり |
| GGUF UD-IQ2_XXS (Unsloth) | llama.cpp | 9.04 GiB–11.16 GiB | 余裕あり · 粗い見積もり |
| GGUF UD-IQ1_M (Unsloth) | llama.cpp | 8.54 GiB–10.57 GiB | 余裕あり · 粗い見積もり |
| GGUF UD-IQ1_S (Unsloth) | llama.cpp | 8.04 GiB–9.98 GiB | 余裕あり · 粗い見積もり |
結果を左右する前提
- 要求コンテキストは記録上のネイティブ窓 262144 トークン以内です。
- 常駐ウェイトの見積もりは総パラメータを使い、非アクティブな MoE エキスパートも含めます。
- ウェイトのバイト数は選んだファイルだけです。リポジトリ内の全量子化を合計しません。
- ダウンロードサイズはピーク GPU メモリではありません。実行時レイアウトと KV は別です。
- 計上したファイル: Qwen3.8-27B-UD-Q4_K_M.gguf。
- 視覚コンポーネントがあります。テキスト推論ではエンコーダ/projector を含めません。
- MTP / draft ウェイトがあります。有効にするまで含めません。
- コンテキストはシーケンスあたりのキャッシュトークン数(入力+生成の予約)です。
関連ページ
出典
計算機
組み合わせページはルートのモデルと機材を固定します。変更するにはメイン計算機でカスタマイズし、共有がその身元を保持します。
公開カタログスナップショットを読み込み中…
検索するかカタログから選ぶと、ローカルLLMの必要VRAMが出ます。
検索するかカタログから選ぶと、ローカルLLMの必要VRAMが出ます。