Qwen3.8-Flash-Next の必要VRAMは 131.53 GiB
必要VRAMは 111.75 GiB–131.53 GiB。Qwen3.8-Flash-Next Q4_K_M、8,192 トークン。グラボ未選択のため需要のみで、収まるかではない。粗い見積もり BF16 ファイル:359,999,963,128 バイト。
Qwen/Qwen3.8-Flash-Next チェックポイントの BF16 safetensors は、このカタログで 359,999,963,128 バイト(335.28 GiB / 360.00 GB)です。ダウンロードサイズはピークVRAMではなく、下の数値は見積もりです。
出典付きの構成と、選択した重みファイルに基づく具体的なチェックポイントです。 GGUF Q4_K_M (bartowski):8,192 トークンで約 111.75 GiB–131.53 GiB、シーケンス 1、FP16 KV、llama.cpp。
これは見積もりであり、実機トレースではありません。未確認ファイル由来の重み
動く構成
公開元と出典
- 提供元Qwen
- Hugging Face
Qwen/Qwen3.8-Flash-Next - Revision
de4b8e4d43b917e7706784d8bb445c9af86a3540 - 総パラメータ数179,999,981,459
- アクティブパラメータ数不明 / 独立した出典がない
- 層数48
- クエリヘッド24
- KVヘッド2 (hybrid)
- ヘッド次元256
- 記録されているコンテキスト上限262,144
- 完全性partial · partial
アクティブパラメータ数は不明、または独立した出典がありません。アクティブ数はルーティング計算量であり、常駐ウェイト全体ではありません。
この見積もりのメモリ内訳
ファイルのバイト、生の KV、エンジンの追加分、合計需要は別々です。ランタイムのトレースではありません。
- Weight artifact
- 111.39 GiB (119,599,030,080 bytes)
- Raw KV cache
- 0.19 GiB (201,326,592 bytes)
- Engine extras / workspace
- 0.18 GiB–19.95 GiB
- Total estimated demand
- 111.75 GiB–131.53 GiB
計上したファイル
| 量子化 | 計上したファイル | バイト | 実行エンジン | 根拠 |
|---|---|---|---|---|
| BF16 safetensors bf16 | 359,999,963,128 (335.28 GiB / 360.00 GB) | vllm, sglang, unspecified | file-metadata | |
| GGUF Q8_0 (Unsloth) gguf-q8_0 | 188,225,033,248 (175.30 GiB / 188.23 GB) | llama.cpp, ollama, unspecified | file-metadata | |
| GGUF Q4_K_M (bartowski) gguf-q4_k_m | Qwen3.8-Flash-Next-Q4_K_M/Qwen3.8-Flash-Next-Q4_K_M-00001-of-00004.gguf, Qwen3.8-Flash-Next-Q4_K_M/Qwen3.8-Flash-Next-Q4_K_M-00002-of-00004.gguf, Qwen3.8-Flash-Next-Q4_K_M/Qwen3.8-Flash-Next-Q4_K_M-00003-of-00004.gguf, Qwen3.8-Flash-Next-Q4_K_M/Qwen3.8-Flash-Next-Q4_K_M-00004-of-00004.gguf | 119,599,030,080 (111.39 GiB / 119.60 GB) | llama.cpp, ollama, unspecified | file-metadata |
| GGUF Q5_K_M (bartowski) gguf-q5_k_m | Qwen3.8-Flash-Next-Q5_K_M/Qwen3.8-Flash-Next-Q5_K_M-00001-of-00004.gguf, Qwen3.8-Flash-Next-Q5_K_M/Qwen3.8-Flash-Next-Q5_K_M-00002-of-00004.gguf, Qwen3.8-Flash-Next-Q5_K_M/Qwen3.8-Flash-Next-Q5_K_M-00003-of-00004.gguf, Qwen3.8-Flash-Next-Q5_K_M/Qwen3.8-Flash-Next-Q5_K_M-00004-of-00004.gguf | 134,668,639,040 (125.42 GiB / 134.67 GB) | llama.cpp, ollama, unspecified | file-metadata |
| GGUF Q6_K (bartowski) gguf-q6_k | 168,113,805,248 (156.57 GiB / 168.11 GB) | llama.cpp, ollama, unspecified | file-metadata | |
| INT4 theoretical | 公開ファイルなし | 89,999,990,730 (理論行はダウンロード可能な成果物ではありません。) | — | theoretical |
量子化とコンテキストごとのメモリ
同時シーケンスは 1 です。KV は既定で FP16 です。範囲には、記載したエンジンの記録済みランタイム分が含まれます。数字は対話式計算機と同じコアです。
| 量子化 | 2,048 tokens | 8,192 tokens | 32,768 tokens |
|---|---|---|---|
| BF16 safetensors | 336.00 GiB–388.56 GiB | 336.14 GiB–388.73 GiB | 336.70 GiB–389.39 GiB |
| GGUF Q8_0 (Unsloth) | 175.52 GiB–206.32 GiB | 175.66 GiB–206.50 GiB | 176.23 GiB–207.19 GiB |
| GGUF Q4_K_M (bartowski) | 111.61 GiB–131.35 GiB | 111.75 GiB–131.53 GiB | 112.31 GiB–132.22 GiB |
| GGUF Q5_K_M (bartowski) | 125.64 GiB–147.81 GiB | 125.79 GiB–147.99 GiB | 126.35 GiB–148.68 GiB |
| GGUF Q6_K (bartowski) | 156.79 GiB–184.35 GiB | 156.93 GiB–184.53 GiB | 157.50 GiB–185.22 GiB |
| INT4 theoretical 理論行はダウンロード可能な成果物ではありません。 | 84.04 GiB–108.65 GiB | 84.18 GiB–108.83 GiB | 84.75 GiB–109.52 GiB |
KV Cache(生データ)
関連ページ
出典
結果を左右する前提
- 要求コンテキストは記録上のネイティブ窓 262144 トークン以内です。
- 常駐ウェイトの見積もりは総パラメータを使い、非アクティブな MoE エキスパートも含めます。
- アクティブパラメータ数は不明、または独立した出典がありません。アクティブ数はルーティング計算量であり、常駐ウェイト全体ではありません。
- ウェイトのバイト数は選んだファイルだけです。リポジトリ内の全量子化を合計しません。
- ダウンロードサイズはピーク GPU メモリではありません。実行時レイアウトと KV は別です。
- 計上したファイル: Qwen3.8-Flash-Next-Q4_K_M/Qwen3.8-Flash-Next-Q4_K_M-00001-of-00004.gguf, Qwen3.8-Flash-Next-Q4_K_M/Qwen3.8-Flash-Next-Q4_K_M-00002-of-00004.gguf, Qwen3.8-Flash-Next-Q4_K_M/Qwen3.8-Flash-Next-Q4_K_M-00003-of-00004.gguf, Qwen3.8-Flash-Next-Q4_K_M/Qwen3.8-Flash-Next-Q4_K_M-00004-of-00004.gguf。
- 視覚コンポーネントがあります。テキスト推論ではエンコーダ/projector を含めません。
- MTP / draft ウェイトがあります。有効にするまで含めません。
計算機
公開カタログスナップショットを読み込み中…
検索するかカタログから選ぶと、ローカルLLMの必要VRAMが出ます。
検索するかカタログから選ぶと、ローカルLLMの必要VRAMが出ます。