Muse Spark Open の VRAM・メモリ要件
出典付きの構成と、選択した重みファイルに基づく具体的なチェックポイントです。 Official NVFP4 safetensors:8,192 トークンで約 498.97 GiB–500.90 GiB、シーケンス 1、FP16 KV、vllm。
これは見積もりであり、実機トレースではありません。未確認ファイル由来の重み
公開元と出典
- 提供元Meta
- Hugging Face
meta-models/Muse-Spark-Open-816B-A42B - Revision
0fb02478b02565b2ce7fc57e6051c91172774ac9 - 総パラメータ数822,036,529,664
- アクティブパラメータ数42,000,000,000
- 層数62
- クエリヘッド128
- KVヘッド16 (gqa)
- ヘッド次元64
- 記録されているコンテキスト上限1,048,576
- 完全性partial · partial
この MoE は総パラメータ 822,036,529,664、アクティブ 42,000,000,000 です。アクティブ側の計算量はウェイト常駐メモリに使いません。 常駐ウェイトの見積もりは総パラメータを使い、非アクティブな MoE エキスパートも含めます。
この見積もりのメモリ内訳
ファイルのバイト、生の KV、エンジンの追加分、合計需要は別々です。ランタイムのトレースではありません。
- Weight artifact
- 496.41 GiB (533,011,023,472 bytes)
- Raw KV cache
- 1.94 GiB (2,080,374,784 bytes)
- Engine extras / workspace
- 0.63 GiB–2.56 GiB
- Total estimated demand
- 498.97 GiB–500.90 GiB
計上したファイル
| 量子化 | 計上したファイル | バイト | 実行エンジン | 根拠 |
|---|---|---|---|---|
| Official BF16 safetensors bf16 | 1,644,333,393,864 (1,531.40 GiB / 1,644.33 GB) | sglang, vllm, unspecified | file-metadata | |
| Official NVFP4 safetensors nvfp4 | 533,011,023,472 (496.41 GiB / 533.01 GB) | sglang, vllm, unspecified | file-metadata | |
| INT4 theoretical | 公開ファイルなし | 411,018,264,832 (理論行はダウンロード可能な成果物ではありません。) | — | theoretical |
量子化とコンテキストごとのメモリ
同時シーケンスは 1 です。KV は既定で FP16 です。範囲には、記載したエンジンの記録済みランタイム分が含まれます。数字は対話式計算機と同じコアです。
| 量子化 | 2,048 tokens | 8,192 tokens | 32,768 tokens |
|---|---|---|---|
| Official BF16 safetensors | 1,532.51 GiB–1,534.40 GiB | 1,533.97 GiB–1,535.90 GiB | 1,539.78 GiB–1,541.89 GiB |
| Official NVFP4 safetensors | 497.51 GiB–499.40 GiB | 498.97 GiB–500.90 GiB | 504.78 GiB–506.89 GiB |
| INT4 theoretical 理論行はダウンロード可能な成果物ではありません。 | 383.40 GiB–494.18 GiB | 384.85 GiB–495.99 GiB | 390.67 GiB–503.15 GiB |
KV Cache(生データ)
標準の GQA/MHA 生 KV は 2 × 層数 × kvHeads × headDim × トークン数 × シーケンス数 × 要素バイトです。このページは query heads(128)ではなく KV heads(16)を使います。
- 8,192 tokens, 1 sequence, FP16: 2,080,374,784 bytes (1.9375 GiB)
- 32,768 tokens: 8,321,499,136 bytes (7.7500 GiB)
関連ページ
出典
- 出典
- 出典 — sha 0fb02478b02565b2ce7fc57e6051c91172774ac9; gated manual; safetensors.total=822036529664; 65 safetensors siblings sum 1644333393864 bytes. config.json HTTP 401.
- 出典 — sha 4239e4db19376904f2e82c167e78f70abb5455fe; 127 safetensors siblings sum 533011023472 bytes.
- 出典 — BF16 about 1.65 TB, TP8/EP8 on 8 × B300. NVFP4 about 537 GB, TP4/EP4 on 4 × B300.
- 出典 — 2026-10-15. Two Apple M5 Ultra Mac Studios; 512 GB unified memory per Studio; 1.2 TB/s bandwidth quoted by Meta.
- 出典 — Open weights 2026-10-15 under the Muse Model License. 816B total / 42B active, 1M context.
結果を左右する前提
- 要求コンテキストは記録上のネイティブ窓 1048576 トークン以内です。
- 常駐ウェイトの見積もりは総パラメータを使い、非アクティブな MoE エキスパートも含めます。
- この MoE は総パラメータ 822036529664、アクティブ 42000000000 です。アクティブ側の計算量はウェイト常駐メモリに使いません。
- ウェイトのバイト数は選んだファイルだけです。リポジトリ内の全量子化を合計しません。
- ダウンロードサイズはピーク GPU メモリではありません。実行時レイアウトと KV は別です。
- ウェイトバイトは公開済み safetensors シャード 127 個、合計 533011023472 バイトです。
- 視覚コンポーネントがあります。テキスト推論ではエンコーダ/projector を含めません。
- コンテキストはシーケンスあたりのキャッシュトークン数(入力+生成の予約)です。
計算機
公開カタログスナップショットを読み込み中…
検索するかカタログから選ぶと、ローカルLLMの必要VRAMが出ます。
検索するかカタログから選ぶと、ローカルLLMの必要VRAMが出ます。