収まらない：Qwen3.8-27B は RTX 5080 で必要VRAM 19.36 GiB（粗い見積もり）
収まらない。RTX 5080（16 GB GDDR7）で必要VRAM 16.11 GiB–19.36 GiB、正味 14.00 GiB。GGUF UD-Q4_K_M (Unsloth)、8,192 トークン。粗い見積もり
1つの設定に対する条件付きの判断です。コンテキスト・量子化・エンジンを変えると結論も変わります。 このページの設定: GGUF UD-Q4_K_M (Unsloth)、キャッシュ 8,192 トークン、シーケンス 1、エンジン llama.cpp。 判定: メモリ不足の見込み。ソフトウェア: 未確認。.
代わりに公開済みの GGUF UD-IQ2_S (Unsloth) なら収まります：同じ正味 14.00 GiB に対して見積もり 8.57 GiB–10.52 GiB。
メモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
このページの固定設定
- モデルQwen3.8-27B
- ハードウェアGeForce RTX 5080 16GB (desktop)
- 量子化GGUF UD-Q4_K_M (Unsloth)
- コンテキスト長（キャッシュするトークン数）8,192
- 実行エンジン
llama.cpp - 同時シーケンス数1
- KV Cache の精度fp16
技術識別子と共有データ
- モデル
qwen3.8-27b - ハードウェア
nvidia-geforce-rtx-5080-16gb-desktop - 量子化
gguf-ud-q4_k_m - この構成の共有フラグメント
v2.eyJzY2hlbWFWZXJzaW9uIjoyLCJjYWxjdWxhdG9yVmVyc2lvbiI6IjAuMy4wIiwiZGF0YXNldFZlcnNpb24iOiIyMDI2LTEwLTAyLjEiLCJjb25maWciOnsibW9kZWxJZCI6InF3ZW4zLjgtMjdiIiwiaGFyZHdhcmVJZCI6Im52aWRpYS1nZWZvcmNlLXJ0eC01MDgwLTE2Z2ItZGVza3RvcCIsImRldmljZUNvdW50IjoxLCJxdWFudGl6YXRpb25JZCI6ImdndWYtdWQtcTRfa19tIiwiY29udGV4dFRva2VucyI6ODE5MiwiY29uY3VycmVudFNlcXVlbmNlcyI6MSwiZW5naW5lIjoibGxhbWEuY3BwIiwia3ZUeXBlIjoiZnAxNiJ9fQ
メモリ内訳
- Weight artifact
- 15.33 GiB (16,464,440,224 bytes)
- Raw KV cache
- 0.50 GiB (536,870,912 bytes)
- Engine extras / workspace
- 0.27 GiB–3.53 GiB
- Total estimated demand
- 16.11 GiB–19.36 GiB
- Net calculator budget
- 14.00 GiB
- OS / display reserve
- 2.00 GiB
- Remaining vs net budget
- -5.36 GiB–-2.11 GiB
高い見積もり 19.36 GiB、正味 14.00 GiB
メモリが足りても、指定のエンジン・量子化・OS で動くとは限りません。動いても速いとは限りません。
このデバイスでのほかの公開ファイル
同じモデル・デバイス・コンテキスト（8,192 トークン、1 シーケンス、FP16 KV）。各行は公開済みの重みファイル一式とその標準エンジンで、メモリの大きい順に並べています。
公開ファイル 28 件をすべて表示
| 量子化 | 実行エンジン | 推定メモリ | 適合 |
|---|---|---|---|
| BF16 safetensors | vllm | 53.02 GiB–63.15 GiB | 収まらない · 粗い見積もり |
| GGUF BF16 (Unsloth) | llama.cpp | 51.68 GiB–61.08 GiB | 収まらない · 粗い見積もり |
| GGUF UD-Q8_K_XL (Unsloth) | llama.cpp | 30.07 GiB–35.74 GiB | 収まらない · 粗い見積もり |
| GGUF Q8_0 (Unsloth) | llama.cpp | 27.83 GiB–33.10 GiB | 収まらない · 粗い見積もり |
| GGUF Q8_0 (mradermacher) | llama.cpp | 27.83 GiB–33.10 GiB | 収まらない · 粗い見積もり |
| GGUF UD-Q6_K_XL (Unsloth) | llama.cpp | 24.33 GiB–29.01 GiB | 収まらない · 粗い見積もり |
| GGUF Q6_K (mradermacher) | llama.cpp | 21.66 GiB–25.88 GiB | 収まらない · 粗い見積もり |
| GGUF UD-Q5_K_M (Unsloth) | llama.cpp | 19.19 GiB–22.97 GiB | 収まらない · 粗い見積もり |
| GGUF Q5_K_M (mradermacher) | llama.cpp | 18.97 GiB–22.71 GiB | 収まらない · 粗い見積もり |
| GGUF Q5_K_S (mradermacher) | llama.cpp | 18.44 GiB–22.10 GiB | 収まらない · 粗い見積もり |
| GGUF UD-Q4_K_XL (Unsloth) | llama.cpp | 17.13 GiB–20.55 GiB | 収まらない · 粗い見積もり |
| GGUF Q4_1 (Unsloth) | llama.cpp | 17.11 GiB–20.53 GiB | 収まらない · 粗い見積もり |
| GGUF Q4_K_M (mradermacher) | llama.cpp | 16.43 GiB–19.74 GiB | 収まらない · 粗い見積もり |
| GGUF UD-Q4_K_M (Unsloth) このページ | llama.cpp | 16.11 GiB–19.36 GiB | 収まらない · 粗い見積もり |
| GGUF Q4_0 (Unsloth) | llama.cpp | 15.73 GiB–18.91 GiB | 収まらない · 粗い見積もり |
| GGUF Q4_K_S (mradermacher) | llama.cpp | 15.51 GiB–18.66 GiB | 収まらない · 粗い見積もり |
| GGUF IQ4_XS (mradermacher) | llama.cpp | 15.13 GiB–18.22 GiB | 収まらない · 粗い見積もり |
| GGUF Q3_K_L (mradermacher) | llama.cpp | 14.33 GiB–17.28 GiB | 収まらない · 粗い見積もり |
| GGUF UD-IQ4_XS (Unsloth) | llama.cpp | 14.05 GiB–16.94 GiB | 収まらない · 粗い見積もり |
| GGUF Q3_K_M (mradermacher) | llama.cpp | 13.35 GiB–16.12 GiB | ぎりぎり · 粗い見積もり |
| GGUF Q3_K_S (mradermacher) | llama.cpp | 12.19 GiB–14.76 GiB | ぎりぎり · 粗い見積もり |
| GGUF UD-IQ3_S (Unsloth) | llama.cpp | 11.99 GiB–14.53 GiB | ぎりぎり · 粗い見積もり |
| GGUF UD-IQ3_XXS (Unsloth) | llama.cpp | 10.96 GiB–13.32 GiB | ぎりぎり · 粗い見積もり |
| GGUF Q2_K (mradermacher) | llama.cpp | 10.89 GiB–13.24 GiB | ぎりぎり · 粗い見積もり |
| GGUF UD-IQ2_S (Unsloth) | llama.cpp | 8.57 GiB–10.52 GiB | 収まる · 粗い見積もり |
| GGUF UD-IQ2_XXS (Unsloth) | llama.cpp | 7.54 GiB–9.31 GiB | 余裕あり · 粗い見積もり |
| GGUF UD-IQ1_M (Unsloth) | llama.cpp | 7.04 GiB–8.72 GiB | 余裕あり · 粗い見積もり |
| GGUF UD-IQ1_S (Unsloth) | llama.cpp | 6.54 GiB–8.14 GiB | 余裕あり · 粗い見積もり |
結果を左右する前提
- 要求コンテキストは記録上のネイティブ窓 262144 トークン以内です。
- 常駐ウェイトの見積もりは総パラメータを使い、非アクティブな MoE エキスパートも含めます。
- ウェイトのバイト数は選んだファイルだけです。リポジトリ内の全量子化を合計しません。
- ダウンロードサイズはピーク GPU メモリではありません。実行時レイアウトと KV は別です。
- 計上したファイル: Qwen3.8-27B-UD-Q4_K_M.gguf。
- 視覚コンポーネントがあります。テキスト推論ではエンコーダ/projector を含めません。
- MTP / draft ウェイトがあります。有効にするまで含めません。
- コンテキストはシーケンスあたりのキャッシュトークン数（入力＋生成の予約）です。
関連ページ
出典
計算機
組み合わせページはルートのモデルと機材を固定します。変更するにはメイン計算機でカスタマイズし、共有がその身元を保持します。
公開カタログスナップショットを読み込み中…
検索するかカタログから選ぶと、ローカルLLMの必要VRAMが出ます。
検索するかカタログから選ぶと、ローカルLLMの必要VRAMが出ます。