Qwen3-235B-A22B の VRAM・メモリ要件

出典付きの構成と、選択した重みファイルに基づく具体的なチェックポイントです。 GGUF Q4_K_M (Qwen)：8,192 トークンで約 133.99 GiB–137.11 GiB、シーケンス 1、FP16 KV、llama.cpp。

これは見積もりであり、実機トレースではありません。未確認ファイル由来の重み

公開元と出典

提供元Qwen
Hugging FaceQwen/Qwen3-235B-A22B
Revision8efa61729e24bd65b1d152b5ab5409052aa80e65
総パラメータ数235,093,634,560
アクティブパラメータ数22,000,000,000
層数94
クエリヘッド64
KVヘッド4 (gqa)
ヘッド次元128
記録されているコンテキスト上限40,960
完全性complete · full

この MoE は総パラメータ 235,093,634,560、アクティブ 22,000,000,000 です。アクティブ側の計算量はウェイト常駐メモリに使いません。常駐ウェイトの見積もりは総パラメータを使い、非アクティブな MoE エキスパートも含めます。

この見積もりのメモリ内訳

ファイルのバイト、生の KV、エンジンの追加分、合計需要は別々です。ランタイムのトレースではありません。

Weight artifact: 132.39 GiB (142,154,074,176 bytes)
Raw KV cache: 1.47 GiB (1,577,058,304 bytes)
Engine extras / workspace: 0.13 GiB–3.25 GiB
Total estimated demand: 133.99 GiB–137.11 GiB

計上したファイル

量子化	計上したファイル	バイト	実行エンジン	根拠
BF16 safetensors bf16 計算機: BF16 safetensors	safetensors シャード 118 件選択したバイトの合計：470,187,269,120 (437.90 GiB / 470.19 GB) 先頭のシャード：model-00001-of-00118.safetensors 末尾のシャード：model-00118-of-00118.safetensors シャードファイル 118 件をすべて表示 `model-00001-of-00118.safetensors` `model-00002-of-00118.safetensors` `model-00003-of-00118.safetensors` `model-00004-of-00118.safetensors` `model-00005-of-00118.safetensors` `model-00006-of-00118.safetensors` `model-00007-of-00118.safetensors` `model-00008-of-00118.safetensors` `model-00009-of-00118.safetensors` `model-00010-of-00118.safetensors` `model-00011-of-00118.safetensors` `model-00012-of-00118.safetensors` `model-00013-of-00118.safetensors` `model-00014-of-00118.safetensors` `model-00015-of-00118.safetensors` `model-00016-of-00118.safetensors` `model-00017-of-00118.safetensors` `model-00018-of-00118.safetensors` `model-00019-of-00118.safetensors` `model-00020-of-00118.safetensors` `model-00021-of-00118.safetensors` `model-00022-of-00118.safetensors` `model-00023-of-00118.safetensors` `model-00024-of-00118.safetensors` `model-00025-of-00118.safetensors` `model-00026-of-00118.safetensors` `model-00027-of-00118.safetensors` `model-00028-of-00118.safetensors` `model-00029-of-00118.safetensors` `model-00030-of-00118.safetensors` `model-00031-of-00118.safetensors` `model-00032-of-00118.safetensors` `model-00033-of-00118.safetensors` `model-00034-of-00118.safetensors` `model-00035-of-00118.safetensors` `model-00036-of-00118.safetensors` `model-00037-of-00118.safetensors` `model-00038-of-00118.safetensors` `model-00039-of-00118.safetensors` `model-00040-of-00118.safetensors` `model-00041-of-00118.safetensors` `model-00042-of-00118.safetensors` `model-00043-of-00118.safetensors` `model-00044-of-00118.safetensors` `model-00045-of-00118.safetensors` `model-00046-of-00118.safetensors` `model-00047-of-00118.safetensors` `model-00048-of-00118.safetensors` `model-00049-of-00118.safetensors` `model-00050-of-00118.safetensors` `model-00051-of-00118.safetensors` `model-00052-of-00118.safetensors` `model-00053-of-00118.safetensors` `model-00054-of-00118.safetensors` `model-00055-of-00118.safetensors` `model-00056-of-00118.safetensors` `model-00057-of-00118.safetensors` `model-00058-of-00118.safetensors` `model-00059-of-00118.safetensors` `model-00060-of-00118.safetensors` `model-00061-of-00118.safetensors` `model-00062-of-00118.safetensors` `model-00063-of-00118.safetensors` `model-00064-of-00118.safetensors` `model-00065-of-00118.safetensors` `model-00066-of-00118.safetensors` `model-00067-of-00118.safetensors` `model-00068-of-00118.safetensors` `model-00069-of-00118.safetensors` `model-00070-of-00118.safetensors` `model-00071-of-00118.safetensors` `model-00072-of-00118.safetensors` `model-00073-of-00118.safetensors` `model-00074-of-00118.safetensors` `model-00075-of-00118.safetensors` `model-00076-of-00118.safetensors` `model-00077-of-00118.safetensors` `model-00078-of-00118.safetensors` `model-00079-of-00118.safetensors` `model-00080-of-00118.safetensors` `model-00081-of-00118.safetensors` `model-00082-of-00118.safetensors` `model-00083-of-00118.safetensors` `model-00084-of-00118.safetensors` `model-00085-of-00118.safetensors` `model-00086-of-00118.safetensors` `model-00087-of-00118.safetensors` `model-00088-of-00118.safetensors` `model-00089-of-00118.safetensors` `model-00090-of-00118.safetensors` `model-00091-of-00118.safetensors` `model-00092-of-00118.safetensors` `model-00093-of-00118.safetensors` `model-00094-of-00118.safetensors` `model-00095-of-00118.safetensors` `model-00096-of-00118.safetensors` `model-00097-of-00118.safetensors` `model-00098-of-00118.safetensors` `model-00099-of-00118.safetensors` `model-00100-of-00118.safetensors` `model-00101-of-00118.safetensors` `model-00102-of-00118.safetensors` `model-00103-of-00118.safetensors` `model-00104-of-00118.safetensors` `model-00105-of-00118.safetensors` `model-00106-of-00118.safetensors` `model-00107-of-00118.safetensors` `model-00108-of-00118.safetensors` `model-00109-of-00118.safetensors` `model-00110-of-00118.safetensors` `model-00111-of-00118.safetensors` `model-00112-of-00118.safetensors` `model-00113-of-00118.safetensors` `model-00114-of-00118.safetensors` `model-00115-of-00118.safetensors` `model-00116-of-00118.safetensors` `model-00117-of-00118.safetensors` `model-00118-of-00118.safetensors`	470,187,269,120 (437.90 GiB / 470.19 GB)	`vllm, sglang, unspecified`	`file-metadata`
GGUF Q4_K_M (Qwen) gguf-q4_k_m 計算機: GGUF Q4_K_M (Qwen)	safetensors シャード 5 件選択したバイトの合計：142,154,074,176 (132.39 GiB / 142.15 GB) 先頭のシャード：Q4_K_M/Qwen3-235B-A22B-Q4_K_M-00001-of-00005.gguf 末尾のシャード：Q4_K_M/Qwen3-235B-A22B-Q4_K_M-00005-of-00005.gguf シャードファイル 5 件をすべて表示 `Q4_K_M/Qwen3-235B-A22B-Q4_K_M-00001-of-00005.gguf` `Q4_K_M/Qwen3-235B-A22B-Q4_K_M-00002-of-00005.gguf` `Q4_K_M/Qwen3-235B-A22B-Q4_K_M-00003-of-00005.gguf` `Q4_K_M/Qwen3-235B-A22B-Q4_K_M-00004-of-00005.gguf` `Q4_K_M/Qwen3-235B-A22B-Q4_K_M-00005-of-00005.gguf`	142,154,074,176 (132.39 GiB / 142.15 GB)	`llama.cpp, ollama, unspecified`	`file-metadata`
GGUF Q5_K_M (Qwen) gguf-q5_k_m 計算機: GGUF Q5_K_M (Qwen)	safetensors シャード 6 件選択したバイトの合計：166,814,156,992 (155.36 GiB / 166.81 GB) 先頭のシャード：Q5_K_M/Qwen3-235B-A22B-Q5_K_M-00001-of-00006.gguf 末尾のシャード：Q5_K_M/Qwen3-235B-A22B-Q5_K_M-00006-of-00006.gguf シャードファイル 6 件をすべて表示 `Q5_K_M/Qwen3-235B-A22B-Q5_K_M-00001-of-00006.gguf` `Q5_K_M/Qwen3-235B-A22B-Q5_K_M-00002-of-00006.gguf` `Q5_K_M/Qwen3-235B-A22B-Q5_K_M-00003-of-00006.gguf` `Q5_K_M/Qwen3-235B-A22B-Q5_K_M-00004-of-00006.gguf` `Q5_K_M/Qwen3-235B-A22B-Q5_K_M-00005-of-00006.gguf` `Q5_K_M/Qwen3-235B-A22B-Q5_K_M-00006-of-00006.gguf`	166,814,156,992 (155.36 GiB / 166.81 GB)	`llama.cpp, ollama, unspecified`	`file-metadata`
GGUF Q6_K (Qwen) gguf-q6_k 計算機: GGUF Q6_K (Qwen)	safetensors シャード 7 件選択したバイトの合計：193,015,494,944 (179.76 GiB / 193.02 GB) 先頭のシャード：Q6_K/Qwen3-235B-A22B-Q6_K-00001-of-00007.gguf 末尾のシャード：Q6_K/Qwen3-235B-A22B-Q6_K-00007-of-00007.gguf シャードファイル 7 件をすべて表示 `Q6_K/Qwen3-235B-A22B-Q6_K-00001-of-00007.gguf` `Q6_K/Qwen3-235B-A22B-Q6_K-00002-of-00007.gguf` `Q6_K/Qwen3-235B-A22B-Q6_K-00003-of-00007.gguf` `Q6_K/Qwen3-235B-A22B-Q6_K-00004-of-00007.gguf` `Q6_K/Qwen3-235B-A22B-Q6_K-00005-of-00007.gguf` `Q6_K/Qwen3-235B-A22B-Q6_K-00006-of-00007.gguf` `Q6_K/Qwen3-235B-A22B-Q6_K-00007-of-00007.gguf`	193,015,494,944 (179.76 GiB / 193.02 GB)	`llama.cpp, ollama, unspecified`	`file-metadata`
GGUF Q8_0 (Qwen) gguf-q8_0 計算機: GGUF Q8_0 (Qwen)	safetensors シャード 9 件選択したバイトの合計：249,940,105,792 (232.77 GiB / 249.94 GB) 先頭のシャード：Q8_0/Qwen3-235B-A22B-Q8_0-00001-of-00009.gguf 末尾のシャード：Q8_0/Qwen3-235B-A22B-Q8_0-00009-of-00009.gguf シャードファイル 9 件をすべて表示 `Q8_0/Qwen3-235B-A22B-Q8_0-00001-of-00009.gguf` `Q8_0/Qwen3-235B-A22B-Q8_0-00002-of-00009.gguf` `Q8_0/Qwen3-235B-A22B-Q8_0-00003-of-00009.gguf` `Q8_0/Qwen3-235B-A22B-Q8_0-00004-of-00009.gguf` `Q8_0/Qwen3-235B-A22B-Q8_0-00005-of-00009.gguf` `Q8_0/Qwen3-235B-A22B-Q8_0-00006-of-00009.gguf` `Q8_0/Qwen3-235B-A22B-Q8_0-00007-of-00009.gguf` `Q8_0/Qwen3-235B-A22B-Q8_0-00008-of-00009.gguf` `Q8_0/Qwen3-235B-A22B-Q8_0-00009-of-00009.gguf`	249,940,105,792 (232.77 GiB / 249.94 GB)	`llama.cpp, ollama, unspecified`	`file-metadata`
INT4 theoretical	公開ファイルなし	117,546,817,280 (理論行はダウンロード可能な成果物ではありません。)	—	theoretical

量子化とコンテキストごとのメモリ

同時シーケンスは 1 です。KV は既定で FP16 です。範囲には、記載したエンジンの記録済みランタイム分が含まれます。数字は対話式計算機と同じコアです。

量子化	2,048 tokens	8,192 tokens	32,768 tokens
BF16 safetensors	438.89 GiB–440.77 GiB	439.99 GiB–441.91 GiB	444.40 GiB–446.45 GiB
GGUF Q4_K_M (Qwen)	132.88 GiB–135.91 GiB	133.99 GiB–137.11 GiB	138.39 GiB–141.83 GiB
GGUF Q5_K_M (Qwen)	155.85 GiB–159.34 GiB	156.95 GiB–160.54 GiB	161.36 GiB–165.25 GiB
GGUF Q6_K (Qwen)	180.25 GiB–184.23 GiB	181.35 GiB–185.43 GiB	185.76 GiB–190.14 GiB
GGUF Q8_0 (Qwen)	233.27 GiB–238.30 GiB	234.37 GiB–239.50 GiB	238.77 GiB–244.22 GiB
INT4 theoretical 理論行はダウンロード可能な成果物ではありません。	109.97 GiB–142.01 GiB	111.07 GiB–143.38 GiB	115.47 GiB–148.81 GiB

KV Cache（生データ）

標準の GQA/MHA 生 KV は 2 × 層数 × kvHeads × headDim × トークン数 × シーケンス数 × 要素バイトです。このページは query heads（64）ではなく KV heads（4）を使います。

8,192 tokens, 1 sequence, FP16: 1,577,058,304 bytes (1.4688 GiB)
32,768 tokens: 6,308,233,216 bytes (5.8750 GiB)

このモデルで計算機を開く

出典

出典
出典 — revision 8efa61729e24bd65b1d152b5ab5409052aa80e65
出典 — metadata.total_size=470187269120
出典

結果を左右する前提

要求コンテキストは記録上のネイティブ窓 40960 トークン以内です。
常駐ウェイトの見積もりは総パラメータを使い、非アクティブな MoE エキスパートも含めます。
この MoE は総パラメータ 235093634560、アクティブ 22000000000 です。アクティブ側の計算量はウェイト常駐メモリに使いません。
ウェイトのバイト数は選んだファイルだけです。リポジトリ内の全量子化を合計しません。
ダウンロードサイズはピーク GPU メモリではありません。実行時レイアウトと KV は別です。
計上したファイル: Q4_K_M/Qwen3-235B-A22B-Q4_K_M-00001-of-00005.gguf, Q4_K_M/Qwen3-235B-A22B-Q4_K_M-00002-of-00005.gguf, Q4_K_M/Qwen3-235B-A22B-Q4_K_M-00003-of-00005.gguf, Q4_K_M/Qwen3-235B-A22B-Q4_K_M-00004-of-00005.gguf, Q4_K_M/Qwen3-235B-A22B-Q4_K_M-00005-of-00005.gguf。
コンテキストはシーケンスあたりのキャッシュトークン数（入力＋生成の予約）です。
同時シーケンスは同一のモデル複製を共有し、ウェイトはシーケンス数では増えません。

計算機

公開カタログスナップショットを読み込み中…

モデルを先に選び、その後で機器を確認します。

モデル

過去のモデルを表示

量子化

機材の種類

ハードウェア

ワークロード

コンテキスト長は主に KV キャッシュメモリに効きます。

詳細設定

ランタイム

この見積もりで使うエンジンと KV キャッシュの型です。

実行エンジンKV Cache の精度再帰 / 畳み込み状態の型理論値も含める（上級）フィルタに一致が無いとき代替を許す

ワークロード

オーバーヘッドの想定と、プリフィル作業領域を含めるかどうかです。

実行時オーバーヘッドの想定プリフィル寄りの作業領域を多めに見る

トポロジ

モデルを複数デバイスへどう分割するか。メモリは合算しません。

配置方法複製内の分割デバイス数

複製数は上級オプションです。台数はノードまたは GPU であり、複製数ではありません。

複製グループ数複製あたりの台数

予算

システム予約と安全余裕。数字を空にすると直前の値を保ちます。

OS / 画面用の予約

GiB（2^30 バイト）

予算はすでにシステム分を除いている追加の安全マージン

パラメータあたりの実効ビット数（手動）表示単位

カスタムモデル

設定を読み込むか、構造を手入力します。読み込むまでリポジトリは走査しません。

ローカルの config.json を読み込む

ブラウザ内だけで解析します。ファイルは送信しません。

公開 Hugging Face リポジトリリビジョン

huggingface.co の config.json のみ。トークンなし。非公開リポジトリは拒否します。

総パラメータ数アクティブパラメータ数層数クエリヘッドKVヘッドヘッド次元

検索するかカタログから選ぶと、ローカルLLMの必要VRAMが出ます。

検索するかカタログから選ぶと、ローカルLLMの必要VRAMが出ます。