Qwen3.8-Flash-Next の必要VRAMは 131.53 GiB

必要VRAMは 111.75 GiB–131.53 GiB。Qwen3.8-Flash-Next Q4_K_M、8,192 トークン。グラボ未選択のため需要のみで、収まるかではない。粗い見積もり BF16 ファイル:359,999,963,128 バイト。

Qwen/Qwen3.8-Flash-Next チェックポイントの BF16 safetensors は、このカタログで 359,999,963,128 バイト(335.28 GiB / 360.00 GB)です。ダウンロードサイズはピークVRAMではなく、下の数値は見積もりです。

出典付きの構成と、選択した重みファイルに基づく具体的なチェックポイントです。 GGUF Q4_K_M (bartowski):8,192 トークンで約 111.75 GiB–131.53 GiB、シーケンス 1、FP16 KV、llama.cpp。

これは見積もりであり、実機トレースではありません。未確認ファイル由来の重み

動く構成

公開元と出典

アクティブパラメータ数は不明、または独立した出典がありません。アクティブ数はルーティング計算量であり、常駐ウェイト全体ではありません。

この見積もりのメモリ内訳

ファイルのバイト、生の KV、エンジンの追加分、合計需要は別々です。ランタイムのトレースではありません。

Weight artifact
111.39 GiB (119,599,030,080 bytes)
Raw KV cache
0.19 GiB (201,326,592 bytes)
Engine extras / workspace
0.18 GiB–19.95 GiB
Total estimated demand
111.75 GiB–131.53 GiB

計上したファイル

量子化計上したファイルバイト実行エンジン根拠
BF16 safetensors
bf16
safetensors シャード 131 件
選択したバイトの合計:359,999,963,128 (335.28 GiB / 360.00 GB)
先頭のシャード:model-00001-of-00131.safetensors
末尾のシャード:model-00131-of-00131.safetensors
シャードファイル 131 件をすべて表示
  • model-00001-of-00131.safetensors
  • model-00002-of-00131.safetensors
  • model-00003-of-00131.safetensors
  • model-00004-of-00131.safetensors
  • model-00005-of-00131.safetensors
  • model-00006-of-00131.safetensors
  • model-00007-of-00131.safetensors
  • model-00008-of-00131.safetensors
  • model-00009-of-00131.safetensors
  • model-00010-of-00131.safetensors
  • model-00011-of-00131.safetensors
  • model-00012-of-00131.safetensors
  • model-00013-of-00131.safetensors
  • model-00014-of-00131.safetensors
  • model-00015-of-00131.safetensors
  • model-00016-of-00131.safetensors
  • model-00017-of-00131.safetensors
  • model-00018-of-00131.safetensors
  • model-00019-of-00131.safetensors
  • model-00020-of-00131.safetensors
  • model-00021-of-00131.safetensors
  • model-00022-of-00131.safetensors
  • model-00023-of-00131.safetensors
  • model-00024-of-00131.safetensors
  • model-00025-of-00131.safetensors
  • model-00026-of-00131.safetensors
  • model-00027-of-00131.safetensors
  • model-00028-of-00131.safetensors
  • model-00029-of-00131.safetensors
  • model-00030-of-00131.safetensors
  • model-00031-of-00131.safetensors
  • model-00032-of-00131.safetensors
  • model-00033-of-00131.safetensors
  • model-00034-of-00131.safetensors
  • model-00035-of-00131.safetensors
  • model-00036-of-00131.safetensors
  • model-00037-of-00131.safetensors
  • model-00038-of-00131.safetensors
  • model-00039-of-00131.safetensors
  • model-00040-of-00131.safetensors
  • model-00041-of-00131.safetensors
  • model-00042-of-00131.safetensors
  • model-00043-of-00131.safetensors
  • model-00044-of-00131.safetensors
  • model-00045-of-00131.safetensors
  • model-00046-of-00131.safetensors
  • model-00047-of-00131.safetensors
  • model-00048-of-00131.safetensors
  • model-00049-of-00131.safetensors
  • model-00050-of-00131.safetensors
  • model-00051-of-00131.safetensors
  • model-00052-of-00131.safetensors
  • model-00053-of-00131.safetensors
  • model-00054-of-00131.safetensors
  • model-00055-of-00131.safetensors
  • model-00056-of-00131.safetensors
  • model-00057-of-00131.safetensors
  • model-00058-of-00131.safetensors
  • model-00059-of-00131.safetensors
  • model-00060-of-00131.safetensors
  • model-00061-of-00131.safetensors
  • model-00062-of-00131.safetensors
  • model-00063-of-00131.safetensors
  • model-00064-of-00131.safetensors
  • model-00065-of-00131.safetensors
  • model-00066-of-00131.safetensors
  • model-00067-of-00131.safetensors
  • model-00068-of-00131.safetensors
  • model-00069-of-00131.safetensors
  • model-00070-of-00131.safetensors
  • model-00071-of-00131.safetensors
  • model-00072-of-00131.safetensors
  • model-00073-of-00131.safetensors
  • model-00074-of-00131.safetensors
  • model-00075-of-00131.safetensors
  • model-00076-of-00131.safetensors
  • model-00077-of-00131.safetensors
  • model-00078-of-00131.safetensors
  • model-00079-of-00131.safetensors
  • model-00080-of-00131.safetensors
  • model-00081-of-00131.safetensors
  • model-00082-of-00131.safetensors
  • model-00083-of-00131.safetensors
  • model-00084-of-00131.safetensors
  • model-00085-of-00131.safetensors
  • model-00086-of-00131.safetensors
  • model-00087-of-00131.safetensors
  • model-00088-of-00131.safetensors
  • model-00089-of-00131.safetensors
  • model-00090-of-00131.safetensors
  • model-00091-of-00131.safetensors
  • model-00092-of-00131.safetensors
  • model-00093-of-00131.safetensors
  • model-00094-of-00131.safetensors
  • model-00095-of-00131.safetensors
  • model-00096-of-00131.safetensors
  • model-00097-of-00131.safetensors
  • model-00098-of-00131.safetensors
  • model-00099-of-00131.safetensors
  • model-00100-of-00131.safetensors
  • model-00101-of-00131.safetensors
  • model-00102-of-00131.safetensors
  • model-00103-of-00131.safetensors
  • model-00104-of-00131.safetensors
  • model-00105-of-00131.safetensors
  • model-00106-of-00131.safetensors
  • model-00107-of-00131.safetensors
  • model-00108-of-00131.safetensors
  • model-00109-of-00131.safetensors
  • model-00110-of-00131.safetensors
  • model-00111-of-00131.safetensors
  • model-00112-of-00131.safetensors
  • model-00113-of-00131.safetensors
  • model-00114-of-00131.safetensors
  • model-00115-of-00131.safetensors
  • model-00116-of-00131.safetensors
  • model-00117-of-00131.safetensors
  • model-00118-of-00131.safetensors
  • model-00119-of-00131.safetensors
  • model-00120-of-00131.safetensors
  • model-00121-of-00131.safetensors
  • model-00122-of-00131.safetensors
  • model-00123-of-00131.safetensors
  • model-00124-of-00131.safetensors
  • model-00125-of-00131.safetensors
  • model-00126-of-00131.safetensors
  • model-00127-of-00131.safetensors
  • model-00128-of-00131.safetensors
  • model-00129-of-00131.safetensors
  • model-00130-of-00131.safetensors
  • model-00131-of-00131.safetensors
359,999,963,128 (335.28 GiB / 360.00 GB)vllm, sglang, unspecifiedfile-metadata
GGUF Q8_0 (Unsloth)
gguf-q8_0
safetensors シャード 6 件
選択したバイトの合計:188,225,033,248 (175.30 GiB / 188.23 GB)
先頭のシャード:Q8_0/Qwen3.8-Flash-Next-Q8_0-00001-of-00006.gguf
末尾のシャード:Q8_0/Qwen3.8-Flash-Next-Q8_0-00006-of-00006.gguf
シャードファイル 6 件をすべて表示
  • Q8_0/Qwen3.8-Flash-Next-Q8_0-00001-of-00006.gguf
  • Q8_0/Qwen3.8-Flash-Next-Q8_0-00002-of-00006.gguf
  • Q8_0/Qwen3.8-Flash-Next-Q8_0-00003-of-00006.gguf
  • Q8_0/Qwen3.8-Flash-Next-Q8_0-00004-of-00006.gguf
  • Q8_0/Qwen3.8-Flash-Next-Q8_0-00005-of-00006.gguf
  • Q8_0/Qwen3.8-Flash-Next-Q8_0-00006-of-00006.gguf
188,225,033,248 (175.30 GiB / 188.23 GB)llama.cpp, ollama, unspecifiedfile-metadata
GGUF Q4_K_M (bartowski)
gguf-q4_k_m
Qwen3.8-Flash-Next-Q4_K_M/Qwen3.8-Flash-Next-Q4_K_M-00001-of-00004.gguf, Qwen3.8-Flash-Next-Q4_K_M/Qwen3.8-Flash-Next-Q4_K_M-00002-of-00004.gguf, Qwen3.8-Flash-Next-Q4_K_M/Qwen3.8-Flash-Next-Q4_K_M-00003-of-00004.gguf, Qwen3.8-Flash-Next-Q4_K_M/Qwen3.8-Flash-Next-Q4_K_M-00004-of-00004.gguf119,599,030,080 (111.39 GiB / 119.60 GB)llama.cpp, ollama, unspecifiedfile-metadata
GGUF Q5_K_M (bartowski)
gguf-q5_k_m
Qwen3.8-Flash-Next-Q5_K_M/Qwen3.8-Flash-Next-Q5_K_M-00001-of-00004.gguf, Qwen3.8-Flash-Next-Q5_K_M/Qwen3.8-Flash-Next-Q5_K_M-00002-of-00004.gguf, Qwen3.8-Flash-Next-Q5_K_M/Qwen3.8-Flash-Next-Q5_K_M-00003-of-00004.gguf, Qwen3.8-Flash-Next-Q5_K_M/Qwen3.8-Flash-Next-Q5_K_M-00004-of-00004.gguf134,668,639,040 (125.42 GiB / 134.67 GB)llama.cpp, ollama, unspecifiedfile-metadata
GGUF Q6_K (bartowski)
gguf-q6_k
safetensors シャード 5 件
選択したバイトの合計:168,113,805,248 (156.57 GiB / 168.11 GB)
先頭のシャード:Qwen3.8-Flash-Next-Q6_K/Qwen3.8-Flash-Next-Q6_K-00001-of-00005.gguf
末尾のシャード:Qwen3.8-Flash-Next-Q6_K/Qwen3.8-Flash-Next-Q6_K-00005-of-00005.gguf
シャードファイル 5 件をすべて表示
  • Qwen3.8-Flash-Next-Q6_K/Qwen3.8-Flash-Next-Q6_K-00001-of-00005.gguf
  • Qwen3.8-Flash-Next-Q6_K/Qwen3.8-Flash-Next-Q6_K-00002-of-00005.gguf
  • Qwen3.8-Flash-Next-Q6_K/Qwen3.8-Flash-Next-Q6_K-00003-of-00005.gguf
  • Qwen3.8-Flash-Next-Q6_K/Qwen3.8-Flash-Next-Q6_K-00004-of-00005.gguf
  • Qwen3.8-Flash-Next-Q6_K/Qwen3.8-Flash-Next-Q6_K-00005-of-00005.gguf
168,113,805,248 (156.57 GiB / 168.11 GB)llama.cpp, ollama, unspecifiedfile-metadata
INT4 theoretical公開ファイルなし89,999,990,730 (理論行はダウンロード可能な成果物ではありません。)—theoretical

量子化とコンテキストごとのメモリ

同時シーケンスは 1 です。KV は既定で FP16 です。範囲には、記載したエンジンの記録済みランタイム分が含まれます。数字は対話式計算機と同じコアです。

量子化2,048 tokens8,192 tokens32,768 tokens
BF16 safetensors336.00 GiB–388.56 GiB336.14 GiB–388.73 GiB336.70 GiB–389.39 GiB
GGUF Q8_0 (Unsloth)175.52 GiB–206.32 GiB175.66 GiB–206.50 GiB176.23 GiB–207.19 GiB
GGUF Q4_K_M (bartowski)111.61 GiB–131.35 GiB111.75 GiB–131.53 GiB112.31 GiB–132.22 GiB
GGUF Q5_K_M (bartowski)125.64 GiB–147.81 GiB125.79 GiB–147.99 GiB126.35 GiB–148.68 GiB
GGUF Q6_K (bartowski)156.79 GiB–184.35 GiB156.93 GiB–184.53 GiB157.50 GiB–185.22 GiB
INT4 theoretical
理論行はダウンロード可能な成果物ではありません。
84.04 GiB–108.65 GiB84.18 GiB–108.83 GiB84.75 GiB–109.52 GiB

KV Cache(生データ)

このモデルで計算機を開く

関連ページ

出典

結果を左右する前提

計算機

公開カタログスナップショットを読み込み中…

モデルを先に選び、その後で機器を確認します。

量子化

機材の種類

ワークロード

コンテキスト長は主に KV キャッシュメモリに効きます。

詳細設定
ランタイム

この見積もりで使うエンジンと KV キャッシュの型です。

ワークロード

オーバーヘッドの想定と、プリフィル作業領域を含めるかどうかです。

トポロジ

モデルを複数デバイスへどう分割するか。メモリは合算しません。

複製数は上級オプションです。台数はノードまたは GPU であり、複製数ではありません。

予算

システム予約と安全余裕。数字を空にすると直前の値を保ちます。

GiB(2^30 バイト)

%

カスタムモデル

設定を読み込むか、構造を手入力します。読み込むまでリポジトリは走査しません。

ブラウザ内だけで解析します。ファイルは送信しません。

huggingface.co の config.json のみ。トークンなし。非公開リポジトリは拒否します。

検索するかカタログから選ぶと、ローカルLLMの必要VRAMが出ます。

検索するかカタログから選ぶと、ローカルLLMの必要VRAMが出ます。