MiniMax-M3 显存与内存需求

具体的模型版本，带来源的结构和权重文件信息。 GGUF Q4_K_M (bartowski)：8,192 个 token 下约 244.40 GiB–249.71 GiB，1 条序列，FP16 KV，llama.cpp。

当前结果是估算，不是对应环境的实测。未核实有文件依据的权重

发布方与出处

提供方MiniMax
Hugging FaceMiniMaxAI/MiniMax-M3
Revisionf0e1c1e04d40177e4673a22097036854f536e9c0
总参数量427,040,140,160
激活参数量未知 / 没有独立来源
层数60
查询头64
KV 头4 (gqa)
头维度128
已记录的上下文能力1,048,576
完整度partial · partial

激活参数未知，或没有独立来源。激活参数描述的是 token 路由计算量，不是完整驻留权重体积。

这次估算里的内存分层

文件字节、原始 KV、引擎额外占用和总需求是分开的。这不是一次运行时轨迹。

Weight artifact: 243.34 GiB (261,282,110,272 bytes)
Raw KV cache: 0.94 GiB (1,006,632,960 bytes)
Engine extras / workspace: 0.13 GiB–5.43 GiB
Total estimated demand: 244.40 GiB–249.71 GiB

计入的文件

量化	计入的文件	字节	运行引擎	证据
BF16 safetensors bf16 计算器: BF16 safetensors	59 个 safetensors 分片选定字节合计：869,157,697,024 (809.47 GiB / 869.16 GB) 第一个分片：model-00001-of-00059.safetensors 最后一个分片：model-00059-of-00059.safetensors 查看全部 59 个分片文件 `model-00001-of-00059.safetensors` `model-00002-of-00059.safetensors` `model-00003-of-00059.safetensors` `model-00004-of-00059.safetensors` `model-00005-of-00059.safetensors` `model-00006-of-00059.safetensors` `model-00007-of-00059.safetensors` `model-00008-of-00059.safetensors` `model-00009-of-00059.safetensors` `model-00010-of-00059.safetensors` `model-00011-of-00059.safetensors` `model-00012-of-00059.safetensors` `model-00013-of-00059.safetensors` `model-00014-of-00059.safetensors` `model-00015-of-00059.safetensors` `model-00016-of-00059.safetensors` `model-00017-of-00059.safetensors` `model-00018-of-00059.safetensors` `model-00019-of-00059.safetensors` `model-00020-of-00059.safetensors` `model-00021-of-00059.safetensors` `model-00022-of-00059.safetensors` `model-00023-of-00059.safetensors` `model-00024-of-00059.safetensors` `model-00025-of-00059.safetensors` `model-00026-of-00059.safetensors` `model-00027-of-00059.safetensors` `model-00028-of-00059.safetensors` `model-00029-of-00059.safetensors` `model-00030-of-00059.safetensors` `model-00031-of-00059.safetensors` `model-00032-of-00059.safetensors` `model-00033-of-00059.safetensors` `model-00034-of-00059.safetensors` `model-00035-of-00059.safetensors` `model-00036-of-00059.safetensors` `model-00037-of-00059.safetensors` `model-00038-of-00059.safetensors` `model-00039-of-00059.safetensors` `model-00040-of-00059.safetensors` `model-00041-of-00059.safetensors` `model-00042-of-00059.safetensors` `model-00043-of-00059.safetensors` `model-00044-of-00059.safetensors` `model-00045-of-00059.safetensors` `model-00046-of-00059.safetensors` `model-00047-of-00059.safetensors` `model-00048-of-00059.safetensors` `model-00049-of-00059.safetensors` `model-00050-of-00059.safetensors` `model-00051-of-00059.safetensors` `model-00052-of-00059.safetensors` `model-00053-of-00059.safetensors` `model-00054-of-00059.safetensors` `model-00055-of-00059.safetensors` `model-00056-of-00059.safetensors` `model-00057-of-00059.safetensors` `model-00058-of-00059.safetensors` `model-00059-of-00059.safetensors`	869,157,697,024 (809.47 GiB / 869.16 GB)	`vllm, sglang, unspecified`	`file-metadata`
GGUF Q8_0 (Unsloth) gguf-q8_0 计算器: GGUF Q8_0 (Unsloth)	11 个 safetensors 分片选定字节合计：452,714,559,392 (421.62 GiB / 452.71 GB) 第一个分片：Q8_0/MiniMax-M3-Q8_0-00001-of-00011.gguf 最后一个分片：Q8_0/MiniMax-M3-Q8_0-00011-of-00011.gguf 查看全部 11 个分片文件 `Q8_0/MiniMax-M3-Q8_0-00001-of-00011.gguf` `Q8_0/MiniMax-M3-Q8_0-00002-of-00011.gguf` `Q8_0/MiniMax-M3-Q8_0-00003-of-00011.gguf` `Q8_0/MiniMax-M3-Q8_0-00004-of-00011.gguf` `Q8_0/MiniMax-M3-Q8_0-00005-of-00011.gguf` `Q8_0/MiniMax-M3-Q8_0-00006-of-00011.gguf` `Q8_0/MiniMax-M3-Q8_0-00007-of-00011.gguf` `Q8_0/MiniMax-M3-Q8_0-00008-of-00011.gguf` `Q8_0/MiniMax-M3-Q8_0-00009-of-00011.gguf` `Q8_0/MiniMax-M3-Q8_0-00010-of-00011.gguf` `Q8_0/MiniMax-M3-Q8_0-00011-of-00011.gguf`	452,714,559,392 (421.62 GiB / 452.71 GB)	`llama.cpp, ollama, unspecified`	`file-metadata`
GGUF Q4_K_M (bartowski) gguf-q4_k_m 计算器: GGUF Q4_K_M (bartowski)	7 个 safetensors 分片选定字节合计：261,282,110,272 (243.34 GiB / 261.28 GB) 第一个分片：MiniMax-M3-Q4_K_M/MiniMax-M3-Q4_K_M-00001-of-00007.gguf 最后一个分片：MiniMax-M3-Q4_K_M/MiniMax-M3-Q4_K_M-00007-of-00007.gguf 查看全部 7 个分片文件 `MiniMax-M3-Q4_K_M/MiniMax-M3-Q4_K_M-00001-of-00007.gguf` `MiniMax-M3-Q4_K_M/MiniMax-M3-Q4_K_M-00002-of-00007.gguf` `MiniMax-M3-Q4_K_M/MiniMax-M3-Q4_K_M-00003-of-00007.gguf` `MiniMax-M3-Q4_K_M/MiniMax-M3-Q4_K_M-00004-of-00007.gguf` `MiniMax-M3-Q4_K_M/MiniMax-M3-Q4_K_M-00005-of-00007.gguf` `MiniMax-M3-Q4_K_M/MiniMax-M3-Q4_K_M-00006-of-00007.gguf` `MiniMax-M3-Q4_K_M/MiniMax-M3-Q4_K_M-00007-of-00007.gguf`	261,282,110,272 (243.34 GiB / 261.28 GB)	`llama.cpp, ollama, unspecified`	`file-metadata`
GGUF Q5_K_M (bartowski) gguf-q5_k_m 计算器: GGUF Q5_K_M (bartowski)	8 个 safetensors 分片选定字节合计：305,348,746,176 (284.38 GiB / 305.35 GB) 第一个分片：MiniMax-M3-Q5_K_M/MiniMax-M3-Q5_K_M-00001-of-00008.gguf 最后一个分片：MiniMax-M3-Q5_K_M/MiniMax-M3-Q5_K_M-00008-of-00008.gguf 查看全部 8 个分片文件 `MiniMax-M3-Q5_K_M/MiniMax-M3-Q5_K_M-00001-of-00008.gguf` `MiniMax-M3-Q5_K_M/MiniMax-M3-Q5_K_M-00002-of-00008.gguf` `MiniMax-M3-Q5_K_M/MiniMax-M3-Q5_K_M-00003-of-00008.gguf` `MiniMax-M3-Q5_K_M/MiniMax-M3-Q5_K_M-00004-of-00008.gguf` `MiniMax-M3-Q5_K_M/MiniMax-M3-Q5_K_M-00005-of-00008.gguf` `MiniMax-M3-Q5_K_M/MiniMax-M3-Q5_K_M-00006-of-00008.gguf` `MiniMax-M3-Q5_K_M/MiniMax-M3-Q5_K_M-00007-of-00008.gguf` `MiniMax-M3-Q5_K_M/MiniMax-M3-Q5_K_M-00008-of-00008.gguf`	305,348,746,176 (284.38 GiB / 305.35 GB)	`llama.cpp, ollama, unspecified`	`file-metadata`
GGUF Q6_K (bartowski) gguf-q6_k 计算器: GGUF Q6_K (bartowski)	10 个 safetensors 分片选定字节合计：369,400,554,688 (344.03 GiB / 369.40 GB) 第一个分片：MiniMax-M3-Q6_K/MiniMax-M3-Q6_K-00001-of-00010.gguf 最后一个分片：MiniMax-M3-Q6_K/MiniMax-M3-Q6_K-00010-of-00010.gguf 查看全部 10 个分片文件 `MiniMax-M3-Q6_K/MiniMax-M3-Q6_K-00001-of-00010.gguf` `MiniMax-M3-Q6_K/MiniMax-M3-Q6_K-00002-of-00010.gguf` `MiniMax-M3-Q6_K/MiniMax-M3-Q6_K-00003-of-00010.gguf` `MiniMax-M3-Q6_K/MiniMax-M3-Q6_K-00004-of-00010.gguf` `MiniMax-M3-Q6_K/MiniMax-M3-Q6_K-00005-of-00010.gguf` `MiniMax-M3-Q6_K/MiniMax-M3-Q6_K-00006-of-00010.gguf` `MiniMax-M3-Q6_K/MiniMax-M3-Q6_K-00007-of-00010.gguf` `MiniMax-M3-Q6_K/MiniMax-M3-Q6_K-00008-of-00010.gguf` `MiniMax-M3-Q6_K/MiniMax-M3-Q6_K-00009-of-00010.gguf` `MiniMax-M3-Q6_K/MiniMax-M3-Q6_K-00010-of-00010.gguf`	369,400,554,688 (344.03 GiB / 369.40 GB)	`llama.cpp, ollama, unspecified`	`file-metadata`
INT4 theoretical	没有已发布的文件	213,520,070,080 (理论行不是可下载的发布文件。)	—	theoretical

按量化与上下文查看显存

并发序列数为 1。KV 默认 FP16。区间包含所列引擎已记录的运行时额外占用。这些数字与交互式计算器使用同一套核心。

量化	2,048 tokens	8,192 tokens	32,768 tokens
BF16 safetensors	810.33 GiB–812.21 GiB	811.03 GiB–812.93 GiB	813.84 GiB–815.83 GiB
GGUF Q8_0 (Unsloth)	421.98 GiB–430.79 GiB	422.69 GiB–431.56 GiB	425.50 GiB–434.57 GiB
GGUF Q4_K_M (bartowski)	243.70 GiB–248.94 GiB	244.40 GiB–249.71 GiB	247.21 GiB–252.72 GiB
GGUF Q5_K_M (bartowski)	284.74 GiB–290.80 GiB	285.44 GiB–291.57 GiB	288.25 GiB–294.58 GiB
GGUF Q6_K (bartowski)	344.39 GiB–351.65 GiB	345.09 GiB–352.41 GiB	347.91 GiB–355.42 GiB
INT4 theoretical 理论行不是可下载的发布文件。	199.22 GiB–256.98 GiB	199.92 GiB–257.86 GiB	202.73 GiB–261.32 GiB

KV Cache（原始数据）

标准 GQA/MHA 的原始 KV 为 2 × 层数 × kvHeads × headDim × token 数 × 序列数 × 每元素字节。本页使用 KV heads（4），不是 query heads（64）。

8,192 tokens, 1 sequence, FP16: 1,006,632,960 bytes (0.9375 GiB)
32,768 tokens: 4,026,531,840 bytes (3.7500 GiB)

用这个模型打开计算器

数据来源

来源
来源 — revision f0e1c1e04d40177e4673a22097036854f536e9c0
来源 — metadata.total_size=869157697024
来源
来源

影响结论的假设

请求的上下文在记录的原生窗口 1048576 token 以内。
完整驻留权重估算使用总参数量，包括未激活的 MoE 专家。
激活参数未知，或没有独立来源。激活参数描述的是 token 路由计算量，不是完整驻留权重体积。
权重字节只计入选定的权重文件，不会把仓库里所有量化版本加在一起。
下载文件大小不是峰值 GPU 内存。运行时布局、分配器填充和 KV 是额外占用。
权重字节来自 7 个已发布的 safetensors 分片，合计 261282110272 字节。
该 checkpoint 含视觉组件。纯文本推理不计入视觉编码器或 projector。
存在 MTP / draft 权重；未启用时不计入。

计算器

正在加载已发布的目录快照…

先选择模型，再检查设备。

模型

显示历史模型

量化

设备类型

硬件

工作负载

上下文长度主要影响 KV Cache 内存。

高级设置

运行时

这次估算使用的引擎和 KV 缓存类型。

运行引擎KV Cache 精度循环 / 卷积状态精度包含理论估算（专家）筛选无匹配时允许替代

工作负载

开销场景，以及是否计入预填充工作区。

运行时开销情景计入更重的预填充工作区

拓扑

模型如何切到多张设备上。各设备的显存不会相加。

部署方式组内切分设备数量

副本数是高级部署选项。数量指节点或 GPU，不是副本。

副本组数每个副本的设备数

预算

系统保留和安全余量。数字框清空时保留上一次的值。

系统 / 显示预留

GiB（2^30 字节）

预算已经扣除系统占用额外安全余量

自定义每参数有效 bit 数显示单位

自定义模型

导入配置或手填结构。点导入之前不会去扫描仓库。

导入本地 config.json

仅在浏览器中解析，不会上传文件。

公开的 Hugging Face 仓库Revision

只允许 huggingface.co 上的 config.json，不使用 token，不读取私有仓库。

总参数量激活参数量层数查询头KV 头头维度

搜索或选择目录中的模型，查看本地大模型的显存需求。

搜索或选择目录中的模型，查看本地大模型的显存需求。

MiniMax-M3 显存与内存需求

发布方与出处

这次估算里的内存分层

计入的文件

按量化与上下文查看显存

KV Cache（原始数据）

相关页面

数据来源

影响结论的假设

计算器