DeepSeek-V3-0324 の VRAM・メモリ要件

出典付きの構成と、選択した重みファイルに基づく具体的なチェックポイントです。 GGUF Q4_K_M (Unsloth)：8,192 トークンで約 377.32 GiB–443.15 GiB、シーケンス 1、FP16 KV、llama.cpp。

これは見積もりであり、実機トレースではありません。未確認ファイル由来の重み

公開元と出典

提供元DeepSeek
Hugging Facedeepseek-ai/DeepSeek-V3-0324
Revisione9b33add76883f293d6bf61f6bd89b497e80e335
総パラメータ数684,531,386,000
アクティブパラメータ数37,000,000,000
層数61
クエリヘッド128
KVヘッド128 (mla)
ヘッド次元56
記録されているコンテキスト上限163,840
完全性partial · partial

この MoE は総パラメータ 684,531,386,000、アクティブ 37,000,000,000 です。アクティブ側の計算量はウェイト常駐メモリに使いません。常駐ウェイトの見積もりは総パラメータを使い、非アクティブな MoE エキスパートも含めます。

この見積もりのメモリ内訳

ファイルのバイト、生の KV、エンジンの追加分、合計需要は別々です。ランタイムのトレースではありません。

Weight artifact: 376.65 GiB (404,430,188,000 bytes)
Raw KV cache: 0.54 GiB (575,668,224 bytes)
Engine extras / workspace: 0.13 GiB–65.96 GiB
Total estimated demand: 377.32 GiB–443.15 GiB

計上したファイル

量子化	計上したファイル	バイト	実行エンジン	根拠
FP8 safetensors fp8 計算機: FP8 safetensors	safetensors シャード 163 件選択したバイトの合計：1,369,062,772,000 (1,275.04 GiB / 1,369.06 GB) 先頭のシャード：model-00001-of-000163.safetensors 末尾のシャード：model-00163-of-000163.safetensors シャードファイル 163 件をすべて表示 `model-00001-of-000163.safetensors` `model-00002-of-000163.safetensors` `model-00003-of-000163.safetensors` `model-00004-of-000163.safetensors` `model-00005-of-000163.safetensors` `model-00006-of-000163.safetensors` `model-00007-of-000163.safetensors` `model-00008-of-000163.safetensors` `model-00009-of-000163.safetensors` `model-00010-of-000163.safetensors` `model-00011-of-000163.safetensors` `model-00012-of-000163.safetensors` `model-00013-of-000163.safetensors` `model-00014-of-000163.safetensors` `model-00015-of-000163.safetensors` `model-00016-of-000163.safetensors` `model-00017-of-000163.safetensors` `model-00018-of-000163.safetensors` `model-00019-of-000163.safetensors` `model-00020-of-000163.safetensors` `model-00021-of-000163.safetensors` `model-00022-of-000163.safetensors` `model-00023-of-000163.safetensors` `model-00024-of-000163.safetensors` `model-00025-of-000163.safetensors` `model-00026-of-000163.safetensors` `model-00027-of-000163.safetensors` `model-00028-of-000163.safetensors` `model-00029-of-000163.safetensors` `model-00030-of-000163.safetensors` `model-00031-of-000163.safetensors` `model-00032-of-000163.safetensors` `model-00033-of-000163.safetensors` `model-00034-of-000163.safetensors` `model-00035-of-000163.safetensors` `model-00036-of-000163.safetensors` `model-00037-of-000163.safetensors` `model-00038-of-000163.safetensors` `model-00039-of-000163.safetensors` `model-00040-of-000163.safetensors` `model-00041-of-000163.safetensors` `model-00042-of-000163.safetensors` `model-00043-of-000163.safetensors` `model-00044-of-000163.safetensors` `model-00045-of-000163.safetensors` `model-00046-of-000163.safetensors` `model-00047-of-000163.safetensors` `model-00048-of-000163.safetensors` `model-00049-of-000163.safetensors` `model-00050-of-000163.safetensors` `model-00051-of-000163.safetensors` `model-00052-of-000163.safetensors` `model-00053-of-000163.safetensors` `model-00054-of-000163.safetensors` `model-00055-of-000163.safetensors` `model-00056-of-000163.safetensors` `model-00057-of-000163.safetensors` `model-00058-of-000163.safetensors` `model-00059-of-000163.safetensors` `model-00060-of-000163.safetensors` `model-00061-of-000163.safetensors` `model-00062-of-000163.safetensors` `model-00063-of-000163.safetensors` `model-00064-of-000163.safetensors` `model-00065-of-000163.safetensors` `model-00066-of-000163.safetensors` `model-00067-of-000163.safetensors` `model-00068-of-000163.safetensors` `model-00069-of-000163.safetensors` `model-00070-of-000163.safetensors` `model-00071-of-000163.safetensors` `model-00072-of-000163.safetensors` `model-00073-of-000163.safetensors` `model-00074-of-000163.safetensors` `model-00075-of-000163.safetensors` `model-00076-of-000163.safetensors` `model-00077-of-000163.safetensors` `model-00078-of-000163.safetensors` `model-00079-of-000163.safetensors` `model-00080-of-000163.safetensors` `model-00081-of-000163.safetensors` `model-00082-of-000163.safetensors` `model-00083-of-000163.safetensors` `model-00084-of-000163.safetensors` `model-00085-of-000163.safetensors` `model-00086-of-000163.safetensors` `model-00087-of-000163.safetensors` `model-00088-of-000163.safetensors` `model-00089-of-000163.safetensors` `model-00090-of-000163.safetensors` `model-00091-of-000163.safetensors` `model-00092-of-000163.safetensors` `model-00093-of-000163.safetensors` `model-00094-of-000163.safetensors` `model-00095-of-000163.safetensors` `model-00096-of-000163.safetensors` `model-00097-of-000163.safetensors` `model-00098-of-000163.safetensors` `model-00099-of-000163.safetensors` `model-00100-of-000163.safetensors` `model-00101-of-000163.safetensors` `model-00102-of-000163.safetensors` `model-00103-of-000163.safetensors` `model-00104-of-000163.safetensors` `model-00105-of-000163.safetensors` `model-00106-of-000163.safetensors` `model-00107-of-000163.safetensors` `model-00108-of-000163.safetensors` `model-00109-of-000163.safetensors` `model-00110-of-000163.safetensors` `model-00111-of-000163.safetensors` `model-00112-of-000163.safetensors` `model-00113-of-000163.safetensors` `model-00114-of-000163.safetensors` `model-00115-of-000163.safetensors` `model-00116-of-000163.safetensors` `model-00117-of-000163.safetensors` `model-00118-of-000163.safetensors` `model-00119-of-000163.safetensors` `model-00120-of-000163.safetensors` `model-00121-of-000163.safetensors` `model-00122-of-000163.safetensors` `model-00123-of-000163.safetensors` `model-00124-of-000163.safetensors` `model-00125-of-000163.safetensors` `model-00126-of-000163.safetensors` `model-00127-of-000163.safetensors` `model-00128-of-000163.safetensors` `model-00129-of-000163.safetensors` `model-00130-of-000163.safetensors` `model-00131-of-000163.safetensors` `model-00132-of-000163.safetensors` `model-00133-of-000163.safetensors` `model-00134-of-000163.safetensors` `model-00135-of-000163.safetensors` `model-00136-of-000163.safetensors` `model-00137-of-000163.safetensors` `model-00138-of-000163.safetensors` `model-00139-of-000163.safetensors` `model-00140-of-000163.safetensors` `model-00141-of-000163.safetensors` `model-00142-of-000163.safetensors` `model-00143-of-000163.safetensors` `model-00144-of-000163.safetensors` `model-00145-of-000163.safetensors` `model-00146-of-000163.safetensors` `model-00147-of-000163.safetensors` `model-00148-of-000163.safetensors` `model-00149-of-000163.safetensors` `model-00150-of-000163.safetensors` `model-00151-of-000163.safetensors` `model-00152-of-000163.safetensors` `model-00153-of-000163.safetensors` `model-00154-of-000163.safetensors` `model-00155-of-000163.safetensors` `model-00156-of-000163.safetensors` `model-00157-of-000163.safetensors` `model-00158-of-000163.safetensors` `model-00159-of-000163.safetensors` `model-00160-of-000163.safetensors` `model-00161-of-000163.safetensors` `model-00162-of-000163.safetensors` `model-00163-of-000163.safetensors`	1,369,062,772,000 (1,275.04 GiB / 1,369.06 GB)	`vllm, sglang, unspecified`	`file-metadata`
GGUF Q4_K_M (Unsloth) gguf-q4_k_m 計算機: GGUF Q4_K_M (Unsloth)	safetensors シャード 9 件選択したバイトの合計：404,430,188,000 (376.65 GiB / 404.43 GB) 先頭のシャード：Q4_K_M/DeepSeek-V3-0324-Q4_K_M-00001-of-00009.gguf 末尾のシャード：Q4_K_M/DeepSeek-V3-0324-Q4_K_M-00009-of-00009.gguf シャードファイル 9 件をすべて表示 `Q4_K_M/DeepSeek-V3-0324-Q4_K_M-00001-of-00009.gguf` `Q4_K_M/DeepSeek-V3-0324-Q4_K_M-00002-of-00009.gguf` `Q4_K_M/DeepSeek-V3-0324-Q4_K_M-00003-of-00009.gguf` `Q4_K_M/DeepSeek-V3-0324-Q4_K_M-00004-of-00009.gguf` `Q4_K_M/DeepSeek-V3-0324-Q4_K_M-00005-of-00009.gguf` `Q4_K_M/DeepSeek-V3-0324-Q4_K_M-00006-of-00009.gguf` `Q4_K_M/DeepSeek-V3-0324-Q4_K_M-00007-of-00009.gguf` `Q4_K_M/DeepSeek-V3-0324-Q4_K_M-00008-of-00009.gguf` `Q4_K_M/DeepSeek-V3-0324-Q4_K_M-00009-of-00009.gguf`	404,430,188,000 (376.65 GiB / 404.43 GB)	`llama.cpp, ollama, unspecified`	`file-metadata`
GGUF Q5_K_M (Unsloth) gguf-q5_k_m 計算機: GGUF Q5_K_M (Unsloth)	safetensors シャード 10 件選択したバイトの合計：475,396,558,528 (442.75 GiB / 475.40 GB) 先頭のシャード：Q5_K_M/DeepSeek-V3-0324-Q5_K_M-00001-of-00010.gguf 末尾のシャード：Q5_K_M/DeepSeek-V3-0324-Q5_K_M-00010-of-00010.gguf シャードファイル 10 件をすべて表示 `Q5_K_M/DeepSeek-V3-0324-Q5_K_M-00001-of-00010.gguf` `Q5_K_M/DeepSeek-V3-0324-Q5_K_M-00002-of-00010.gguf` `Q5_K_M/DeepSeek-V3-0324-Q5_K_M-00003-of-00010.gguf` `Q5_K_M/DeepSeek-V3-0324-Q5_K_M-00004-of-00010.gguf` `Q5_K_M/DeepSeek-V3-0324-Q5_K_M-00005-of-00010.gguf` `Q5_K_M/DeepSeek-V3-0324-Q5_K_M-00006-of-00010.gguf` `Q5_K_M/DeepSeek-V3-0324-Q5_K_M-00007-of-00010.gguf` `Q5_K_M/DeepSeek-V3-0324-Q5_K_M-00008-of-00010.gguf` `Q5_K_M/DeepSeek-V3-0324-Q5_K_M-00009-of-00010.gguf` `Q5_K_M/DeepSeek-V3-0324-Q5_K_M-00010-of-00010.gguf`	475,396,558,528 (442.75 GiB / 475.40 GB)	`llama.cpp, ollama, unspecified`	`file-metadata`
GGUF Q6_K (Unsloth) gguf-q6_k 計算機: GGUF Q6_K (Unsloth)	safetensors シャード 12 件選択したバイトの合計：550,798,327,264 (512.97 GiB / 550.80 GB) 先頭のシャード：Q6_K/DeepSeek-V3-0324-Q6_K-00001-of-00012.gguf 末尾のシャード：Q6_K/DeepSeek-V3-0324-Q6_K-00012-of-00012.gguf シャードファイル 12 件をすべて表示 `Q6_K/DeepSeek-V3-0324-Q6_K-00001-of-00012.gguf` `Q6_K/DeepSeek-V3-0324-Q6_K-00002-of-00012.gguf` `Q6_K/DeepSeek-V3-0324-Q6_K-00003-of-00012.gguf` `Q6_K/DeepSeek-V3-0324-Q6_K-00004-of-00012.gguf` `Q6_K/DeepSeek-V3-0324-Q6_K-00005-of-00012.gguf` `Q6_K/DeepSeek-V3-0324-Q6_K-00006-of-00012.gguf` `Q6_K/DeepSeek-V3-0324-Q6_K-00007-of-00012.gguf` `Q6_K/DeepSeek-V3-0324-Q6_K-00008-of-00012.gguf` `Q6_K/DeepSeek-V3-0324-Q6_K-00009-of-00012.gguf` `Q6_K/DeepSeek-V3-0324-Q6_K-00010-of-00012.gguf` `Q6_K/DeepSeek-V3-0324-Q6_K-00011-of-00012.gguf` `Q6_K/DeepSeek-V3-0324-Q6_K-00012-of-00012.gguf`	550,798,327,264 (512.97 GiB / 550.80 GB)	`llama.cpp, ollama, unspecified`	`file-metadata`
GGUF Q8_0 (Unsloth) gguf-q8_0 計算機: GGUF Q8_0 (Unsloth)	safetensors シャード 15 件選択したバイトの合計：713,286,514,720 (664.30 GiB / 713.29 GB) 先頭のシャード：Q8_0/DeepSeek-V3-0324-Q8_0-00001-of-00015.gguf 末尾のシャード：Q8_0/DeepSeek-V3-0324-Q8_0-00015-of-00015.gguf シャードファイル 15 件をすべて表示 `Q8_0/DeepSeek-V3-0324-Q8_0-00001-of-00015.gguf` `Q8_0/DeepSeek-V3-0324-Q8_0-00002-of-00015.gguf` `Q8_0/DeepSeek-V3-0324-Q8_0-00003-of-00015.gguf` `Q8_0/DeepSeek-V3-0324-Q8_0-00004-of-00015.gguf` `Q8_0/DeepSeek-V3-0324-Q8_0-00005-of-00015.gguf` `Q8_0/DeepSeek-V3-0324-Q8_0-00006-of-00015.gguf` `Q8_0/DeepSeek-V3-0324-Q8_0-00007-of-00015.gguf` `Q8_0/DeepSeek-V3-0324-Q8_0-00008-of-00015.gguf` `Q8_0/DeepSeek-V3-0324-Q8_0-00009-of-00015.gguf` `Q8_0/DeepSeek-V3-0324-Q8_0-00010-of-00015.gguf` `Q8_0/DeepSeek-V3-0324-Q8_0-00011-of-00015.gguf` `Q8_0/DeepSeek-V3-0324-Q8_0-00012-of-00015.gguf` `Q8_0/DeepSeek-V3-0324-Q8_0-00013-of-00015.gguf` `Q8_0/DeepSeek-V3-0324-Q8_0-00014-of-00015.gguf` `Q8_0/DeepSeek-V3-0324-Q8_0-00015-of-00015.gguf`	713,286,514,720 (664.30 GiB / 713.29 GB)	`llama.cpp, ollama, unspecified`	`file-metadata`
INT4 theoretical	公開ファイルなし	342,265,693,000 (理論行はダウンロード可能な成果物ではありません。)	—	theoretical

量子化とコンテキストごとのメモリ

同時シーケンスは 1 です。KV は既定で FP16 です。範囲には、記載したエンジンの記録済みランタイム分が含まれます。数字は対話式計算機と同じコアです。

量子化	2,048 tokens	8,192 tokens	32,768 tokens
FP8 safetensors	1,275.80 GiB–1,469.35 GiB	1,276.20 GiB–1,469.90 GiB	1,277.81 GiB–1,472.09 GiB
GGUF Q4_K_M (Unsloth)	376.91 GiB–442.57 GiB	377.32 GiB–443.15 GiB	378.92 GiB–445.43 GiB
GGUF Q5_K_M (Unsloth)	443.01 GiB–520.10 GiB	443.41 GiB–520.68 GiB	445.02 GiB–522.95 GiB
GGUF Q6_K (Unsloth)	513.23 GiB–602.47 GiB	513.63 GiB–603.05 GiB	515.24 GiB–605.32 GiB
GGUF Q8_0 (Unsloth)	664.56 GiB–779.98 GiB	664.96 GiB–780.56 GiB	666.57 GiB–782.83 GiB
INT4 theoretical 理論行はダウンロード可能な成果物ではありません。	319.02 GiB–411.32 GiB	319.42 GiB–411.90 GiB	321.03 GiB–414.17 GiB

KV Cache（生データ）

このモデルで計算機を開く

出典

出典
出典 — revision e9b33add76883f293d6bf61f6bd89b497e80e335
出典 — metadata.total_size=1369062772000
出典

結果を左右する前提

要求コンテキストは記録上のネイティブ窓 163840 トークン以内です。
常駐ウェイトの見積もりは総パラメータを使い、非アクティブな MoE エキスパートも含めます。
この MoE は総パラメータ 684531386000、アクティブ 37000000000 です。アクティブ側の計算量はウェイト常駐メモリに使いません。
ウェイトのバイト数は選んだファイルだけです。リポジトリ内の全量子化を合計しません。
ダウンロードサイズはピーク GPU メモリではありません。実行時レイアウトと KV は別です。
ウェイトバイトは公開済み safetensors シャード 9 個、合計 404430188000 バイトです。
MTP / draft ウェイトがあります。有効にするまで含めません。
コンテキストはシーケンスあたりのキャッシュトークン数（入力＋生成の予約）です。

計算機

公開カタログスナップショットを読み込み中…

モデルを先に選び、その後で機器を確認します。

モデル

過去のモデルを表示

量子化

機材の種類

ハードウェア

ワークロード

コンテキスト長は主に KV キャッシュメモリに効きます。

詳細設定

ランタイム

この見積もりで使うエンジンと KV キャッシュの型です。

実行エンジンKV Cache の精度再帰 / 畳み込み状態の型理論値も含める（上級）フィルタに一致が無いとき代替を許す

ワークロード

オーバーヘッドの想定と、プリフィル作業領域を含めるかどうかです。

実行時オーバーヘッドの想定プリフィル寄りの作業領域を多めに見る

トポロジ

モデルを複数デバイスへどう分割するか。メモリは合算しません。

配置方法複製内の分割デバイス数

複製数は上級オプションです。台数はノードまたは GPU であり、複製数ではありません。

複製グループ数複製あたりの台数

予算

システム予約と安全余裕。数字を空にすると直前の値を保ちます。

OS / 画面用の予約

GiB（2^30 バイト）

予算はすでにシステム分を除いている追加の安全マージン

パラメータあたりの実効ビット数（手動）表示単位

カスタムモデル

設定を読み込むか、構造を手入力します。読み込むまでリポジトリは走査しません。

ローカルの config.json を読み込む

ブラウザ内だけで解析します。ファイルは送信しません。

公開 Hugging Face リポジトリリビジョン

huggingface.co の config.json のみ。トークンなし。非公開リポジトリは拒否します。

総パラメータ数アクティブパラメータ数層数クエリヘッドKVヘッドヘッド次元

検索するかカタログから選ぶと、ローカルLLMの必要VRAMが出ます。

検索するかカタログから選ぶと、ローカルLLMの必要VRAMが出ます。

DeepSeek-V3-0324 の VRAM・メモリ要件

公開元と出典

この見積もりのメモリ内訳

計上したファイル

量子化とコンテキストごとのメモリ

KV Cache（生データ）

関連ページ

出典

結果を左右する前提

計算機