DeepSeek-R1-Distill-Qwen-32B 显存需求

DeepSeek-R1-Distill-Qwen-32B 用 Q4_K_M、8K 上下文时大约需要 21.5 GiB 显存。在 24 GB 的显卡（如 RTX 4090）上比较勉强；32 GB 的显卡（如 RTX 5090）放得下。32K 上下文时大约需要 27.9 GiB，48 GB 的显卡放得下。

这些数字是根据模型 config 和文件大小算出的估算，不是实测。 计算方法

各量化版本的显存

量化文件大小8K 合计32K 合计
BF16 safetensors65.5 GB63.7 GiB–65.6 GiB69.7 GiB–71.8 GiB
GGUF Q8_0 (Unsloth)34.8 GB34.6 GiB–35.7 GiB40.6 GiB–42.1 GiB
GGUF Q6_K (Unsloth)26.9 GB27.2 GiB–28.2 GiB33.2 GiB–34.6 GiB
GGUF Q5_K_M (Unsloth)23.3 GB23.8 GiB–24.7 GiB29.8 GiB–31.2 GiB
GGUF Q4_K_M (Unsloth)19.9 GB20.6 GiB–21.5 GiB26.6 GiB–27.9 GiB

Q4_K_M、Q8_0 这类名字是量化等级：每个权重的位数越少，文件越小，质量略有损失。合计包含 KV 缓存（随上下文长度增长的内存）和运行时缓冲区，按一次一个对话计算。 下载文件

哪些显卡能跑

内存可用例子8K32K
8 GB7.0 GiBRTX 4060, RTX 3060, RTX 5060 Ti 另有 1 款放不下放不下
10 GB9.0 GiBRTX 3080放不下放不下
12 GB11.0 GiBRTX 4070, RTX 3060, RTX 5070 另有 2 款放不下放不下
16 GB14.0 GiBRTX 4080 SUPER, RTX 5080, RX 7800 XT 另有 5 款放不下放不下
16 GB15.0 GiBRTX 4060 Ti, RTX 4070 Ti SUPER放不下放不下
20 GB18.0 GiBRX 7900 XT放不下放不下
24 GB22.0 GiBRTX 4090, RX 7900 XTX, RTX 3090勉强放得下放不下
32 GB30.0 GiBRTX 5090放得下勉强放得下
48 GB46.0 GiBL40S余量充足余量充足
80 GB78.0 GiBA100, H100余量充足余量充足
64 GB · 统一内存54.0 GiBApple M2 Max余量充足余量充足
128 GB · 统一内存96.0 GiBRyzen AI Max+ 395余量充足余量充足
128 GB · 统一内存112.0 GiBDGX Spark (GB10)余量充足余量充足
128 GB · 统一内存116.0 GiBApple M4 Max余量充足余量充足

GGUF Q4_K_M (Unsloth)，一次一个对话。可用内存是总量减去给系统和显示保留的默认部分。

架构

KV 缓存随上下文增长：FP16 下 8K 约 2 GiB，32K 约 8 GiB。 模型有 40 个查询头、8 个 KV 头（分组查询注意力），所以这部分缓存较小。

常见问题

下载文件大小等于显存占用吗？

不等于。Q4_K_M 文件约 18.5 GiB，但 8K 上下文时合计约 21.5 GiB，因为 KV 缓存和运行时缓冲区叠加在权重之上。

更长的上下文会多占多少内存？

DeepSeek-R1-Distill-Qwen-32B 的 KV 缓存在 FP16 下 8K 约 2 GiB，32K 约 8 GiB。权重大小不变。

该选哪个量化？

先用 Q4_K_M（8K 时约 21.5 GiB）。内存够的话，BF16 约需 65.6 GiB，更接近原始权重。

下载文件

量化文件文件大小引擎
BF16 safetensors
8 个 safetensors 分片
第一个分片：model-00001-of-000008.safetensors
最后一个分片：model-00008-of-000008.safetensors
查看全部 8 个分片文件
  • model-00001-of-000008.safetensors
  • model-00002-of-000008.safetensors
  • model-00003-of-000008.safetensors
  • model-00004-of-000008.safetensors
  • model-00005-of-000008.safetensors
  • model-00006-of-000008.safetensors
  • model-00007-of-000008.safetensors
  • model-00008-of-000008.safetensors
65.53 GB
65,527,752,704 bytes
vllm, sglang
GGUF Q8_0 (Unsloth)DeepSeek-R1-Distill-Qwen-32B-Q8_0.gguf34.82 GB
34,820,884,384 bytes
llama.cpp, ollama
GGUF Q6_K (Unsloth)DeepSeek-R1-Distill-Qwen-32B-Q6_K.gguf26.89 GB
26,886,154,144 bytes
llama.cpp, ollama
GGUF Q5_K_M (Unsloth)DeepSeek-R1-Distill-Qwen-32B-Q5_K_M.gguf23.26 GB
23,262,156,704 bytes
llama.cpp, ollama
GGUF Q4_K_M (Unsloth)DeepSeek-R1-Distill-Qwen-32B-Q4_K_M.gguf19.85 GB
19,851,335,584 bytes
llama.cpp, ollama
这个数字怎么算出来的

合计 = 权重文件 + KV 缓存 + 运行时缓冲区。范围覆盖所示引擎的低到高运行时开销。

GGUF Q4_K_M (Unsloth) · 8,192 tokens · llama.cpp

权重（文件）
18.49 GiB (19,851,335,584 bytes)
KV 缓存
2.00 GiB (2,147,483,648 bytes)
运行时缓冲区
0.13 GiB–1.01 GiB
合计
20.61 GiB–21.50 GiB
  • 上下文在原生窗口 131072 token 以内。
  • 完整驻留权重估算使用总参数量，MoE 里没激活的专家也算在内。
  • 权重只算选中的文件，不会把仓库里所有量化版本加在一起。
  • 下载文件大小不等于峰值显存。运行时布局、分配器对齐和 KV 缓存都要另算。
  • 计入的文件：DeepSeek-R1-Distill-Qwen-32B-Q4_K_M.gguf。
  • 上下文长度指每条序列缓存的 token 数（输入加上预留的输出）。
  • 多条并发序列共用一份权重，权重不会按序列数翻倍。
  • KV 缓存精度和权重量化是两回事，除非你手动改。

计算方法

用这个模型打开计算器

相关页面

数据来源

计算器

正在加载已发布的目录快照…

上下文长度

上下文越长，KV 缓存（模型记住对话用的内存）占用越多。

更多选项
量化
运行时

这次估算使用的引擎和 KV 缓存类型。

工作负载

开销场景，以及是否计入预填充工作区。

拓扑

模型如何切到多张设备上。各设备的显存不会相加。

副本数是高级部署选项。数量指节点或 GPU，不是副本。

预算

系统保留和安全余量。数字框清空时保留上一次的值。

GiB（2^30 字节）

%

自定义模型

导入配置或手填结构。点导入之前不会去扫描仓库。

仅在浏览器中解析，不会上传文件。

只允许 huggingface.co 上的 config.json，不使用 token，不读取私有仓库。

选一个模型，看看它需要多少显存。