GeForce RTX 5060 Ti 16GB (desktop) で動くローカル LLM と VRAM

16 GB GDDR7は独立したVRAMです。容量は17,179,869,184バイト（16.00 GiB）、既定のシステム予約は2,147,483,648バイト（2.00 GiB）、正味は15,032,385,536バイト（14.00 GiB）です。

GeForce RTX 5060 Ti 16GB (desktop)：総量 16.00 GiB、既定の予約 2.00 GiB、計算機の正味予算 14.00 GiB。 このページが答えるのは公称容量です。バイト換算はこの SKU のカタログ上の仮定に従います。

これは見積もりであり、実機トレースではありません。専用 VRAM

この機材のモデル

総量、予約、正味の予算

予約は計算機の変更できる仮定であり、測定したデスクトップ占有ではありません。画面のないマシンでは、基板のベースラインを測ってから下げられます。

8,192 トークンでのカタログ適合

各行は、8,192 トークンで計算機が自動選択するのと同じ結果です。3 bit/重み以上で収まる最高精度です。その下限未満のファイルは手動選択用に残り、自動の行にはなりません。同時シーケンスは 1、KV は FP16 です。収まるかどうかとソフトの対応は別です。形式の互換は、そのチェックポイントの実測実行ではありません。

載る見込み (43)

モデル量子化見積もり適合ソフトウェアの対応根拠
Qwen2.5-0.5B-InstructGGUF Q8_0 (Qwen)
gguf-q8_0 · 8192 tokens
0.85 GiB–1.24 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
Gemma 3 1B ITGGUF Q4_0 (Google QAT)
gguf-q4_0 · 8192 tokens
1.10 GiB–1.50 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
Qwen3-0.6BGGUF Q8_0 (Qwen)
gguf-q8_0 · 8192 tokens
1.60 GiB–2.04 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
Qwen2.5-1.5B-InstructGGUF Q8_0 (Qwen)
gguf-q8_0 · 8192 tokens
2.11 GiB–2.53 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
Qwen2.5-Coder-1.5B-InstructGGUF Q8_0 (Qwen)
gguf-q8_0 · 8192 tokens
2.11 GiB–2.53 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
Llama 3.2 1B InstructOfficial BF16 safetensors
bf16 · 8192 tokens
2.68 GiB–3.12 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
Qwen3-1.7BGGUF Q8_0
gguf-q8_0 · 8192 tokens
2.71 GiB–3.18 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
Qwen3-1.7B-BaseGGUF Q8_0 (mradermacher)
gguf-q8_0 · 8192 tokens
2.71 GiB–3.18 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
Gemma 3 4B ITGGUF Q4_0 (Google QAT)
gguf-q4_0 · 8192 tokens
3.33 GiB–3.79 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
SmolLM2-1.7B-InstructGGUF Q8_0 (Unsloth)
gguf-q8_0 · 8192 tokens
3.32 GiB–3.83 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
Qwen2.5-VL-3B-InstructGGUF Q8_0 (Unsloth)
gguf-q8_0 · 8192 tokens
3.47 GiB–3.92 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
Qwen2.5-3B-InstructGGUF Q8_0
gguf-q8_0 · 8192 tokens
3.77 GiB–4.24 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
Qwen2.5-Coder-3B-InstructGGUF Q8_0 (Qwen)
gguf-q8_0 · 8192 tokens
3.77 GiB–4.24 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
Phi-4-mini-instructGGUF Q8_0 (Unsloth)
gguf-q8_0 · 8192 tokens
4.93 GiB–5.45 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
Qwen3-4BGGUF Q8_0
gguf-q8_0 · 8192 tokens
5.24 GiB–5.77 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
Qwen3-4B-Instruct-2507GGUF Q8_0 (Unsloth)
gguf-q8_0 · 8192 tokens
5.24 GiB–5.77 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
Qwen3-VL-4B-InstructGGUF Q8_0 (Qwen)
gguf-q8_0 · 8192 tokens
5.24 GiB–5.77 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
Llama 3.2 3B InstructOfficial BF16 safetensors
bf16 · 8192 tokens
6.98 GiB–7.54 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
Phi-3.5-mini-instructGGUF Q8_0 (bartowski)
gguf-q8_0 · 8192 tokens
6.91 GiB–7.57 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
Qwen2-7B-InstructGGUF Q8_0 (Qwen)
gguf-q8_0 · 8192 tokens
8.10 GiB–8.66 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
Qwen2.5-VL-7B-InstructGGUF Q8_0 (Unsloth)
gguf-q8_0 · 8192 tokens
8.10 GiB–8.66 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
OpenMath-Nemotron-7BGGUF Q8_0 (mradermacher)
gguf-q8_0 · 8192 tokens
8.10 GiB–8.66 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
DeepSeek-R1-Distill-Qwen-7BGGUF Q8_0 (Unsloth)
gguf-q8_0 · 8192 tokens
8.10 GiB–8.66 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
Qwen2.5-7B-InstructGGUF Q8_0
gguf-q8_0 · 8192 tokens
8.10 GiB–8.66 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
Qwen2.5-Coder-7B-InstructGGUF Q8_0 (Qwen)
gguf-q8_0 · 8192 tokens
8.10 GiB–8.66 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
Qwen2.5-Coder-7BGGUF Q8_0 (mradermacher)
gguf-q8_0 · 8192 tokens
8.10 GiB–8.66 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
Mistral-7B-Instruct-v0.3GGUF Q8_0 (bartowski)
gguf-q8_0 · 8192 tokens
8.30 GiB–8.89 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
Gemma 3 12B ITGGUF Q4_0 (Google QAT)
gguf-q4_0 · 8192 tokens
8.46 GiB–9.04 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
DeepSeek-R1-Distill-Llama-8BGGUF Q8_0 (Unsloth)
gguf-q8_0 · 8192 tokens
9.08 GiB–9.68 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
Qwen2.5-Math-7B-InstructGGUF Q8_0 (bartowski)
gguf-q8_0 · 8192 tokens
8.10 GiB–9.96 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
Qwen3-8BGGUF Q8_0
gguf-q8_0 · 8192 tokens
9.36 GiB–9.98 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
Qwen3-8B-BaseGGUF Q8_0 (mradermacher)
gguf-q8_0 · 8192 tokens
9.36 GiB–9.98 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
Qwen3-VL-8B-InstructGGUF Q8_0 (Qwen)
gguf-q8_0 · 8192 tokens
9.36 GiB–9.98 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
granite-3.3-8b-instructGGUF Q8_0 (IBM)
gguf-q8_0 · 8192 tokens
9.46 GiB–10.09 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
GLM-4-9B-0414GGUF Q8_0 (Unsloth)
gguf-q8_0 · 8192 tokens
9.75 GiB–10.33 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
Mistral-Nemo-Instruct-2407GGUF Q6_K (Unsloth)
gguf-q6_k · 8192 tokens
10.74 GiB–11.39 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
Qwen3-14BGGUF Q5_K_M (Qwen)
gguf-q5_k_m · 8192 tokens
11.17 GiB–11.83 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
phi-4GGUF Q5_K_M (Unsloth)
gguf-q5_k_m · 8192 tokens
11.39 GiB–12.06 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
OpenMath-Nemotron-14BGGUF Q5_K_M (mradermacher)
gguf-q5_k_m · 8192 tokens
11.41 GiB–12.09 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
Qwen2.5-Coder-14B-InstructGGUF Q5_K_M (Qwen)
gguf-q5_k_m · 8192 tokens
11.41 GiB–12.09 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
Qwen2.5-14B-InstructGGUF Q5_K_M (Qwen)
gguf-q5_k_m · 8192 tokens
11.41 GiB–12.09 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
DeepSeek-V2-Lite-ChatGGUF Q4_K_M (mradermacher)
gguf-q4_k_m · 8192 tokens
10.01 GiB–12.23 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。
Phi-4-reasoningGGUF Q5_K_M (Unsloth)
gguf-q5_k_m · 8192 tokens
11.56 GiB–12.25 GiB載る見込み未確認これは見積もりであり、実機トレースではありません。

余裕が少ない (2)

モデル量子化見積もり適合ソフトウェアの対応根拠
Qwen3.8-27BGGUF UD-IQ3_XXS (Unsloth)
gguf-ud-iq3_xxs · 8192 tokens
10.96 GiB–13.32 GiB余裕が少ない未確認これは見積もりであり、実機トレースではありません。
gpt-oss-20bMXFP4 safetensors
mxfp4 · 8192 tokens
13.13 GiB–13.78 GiB余裕が少ない未確認これは見積もりであり、実機トレースではありません。

メモリ不足の見込み (41)

モデル量子化見積もり適合ソフトウェアの対応根拠
Mistral-Small-24B-Instruct-2501GGUF Q4_K_M (Unsloth)
gguf-q4_k_m · 8192 tokens
14.72 GiB–15.45 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
Llama 3.1 8B InstructOfficial BF16 safetensors
bf16 · 8192 tokens
16.08 GiB–16.83 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
Gemma 3 27B ITGGUF Q4_0 (Google QAT)
gguf-q4_0 · 8192 tokens
17.20 GiB–17.97 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
Qwen3-30B-A3BGGUF Q4_K_M
gguf-q4_k_m · 8192 tokens
18.16 GiB–18.93 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
Qwen3-30B-A3B-Instruct-2507GGUF Q4_K_M (Unsloth)
gguf-q4_k_m · 8192 tokens
18.16 GiB–18.93 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
Qwen3-VL-30B-A3B-InstructGGUF Q4_K_M (Qwen)
gguf-q4_k_m · 8192 tokens
18.16 GiB–18.93 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
Qwen3-32BGGUF Q4_K_M
gguf-q4_k_m · 8192 tokens
20.53 GiB–21.41 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
OpenMath-Nemotron-32BGGUF Q4_K_M (mradermacher)
gguf-q4_k_m · 8192 tokens
20.61 GiB–21.50 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
Qwen2.5-VL-32B-InstructGGUF Q4_K_M (Unsloth)
gguf-q4_k_m · 8192 tokens
20.61 GiB–21.50 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
DeepSeek-R1-Distill-Qwen-32BGGUF Q4_K_M (Unsloth)
gguf-q4_k_m · 8192 tokens
20.61 GiB–21.50 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
QwQ-32BGGUF Q4_K_M (Qwen)
gguf-q4_k_m · 8192 tokens
20.61 GiB–21.50 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
Qwen2.5-Coder-32B-InstructGGUF Q4_K_M (Qwen)
gguf-q4_k_m · 8192 tokens
20.61 GiB–21.50 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
Qwen2.5-32B-InstructGGUF Q4_K_M
gguf-q4_k_m · 8192 tokens
20.61 GiB–21.50 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
Drama 3Unofficial int4 W4A16 (GPTQ-Marlin, with codec)
int4-w4a16-community · 8192 tokens
22.67 GiB–27.03 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
Mixtral-8x7B-Instruct-v0.1GGUF Q4_K_M (mradermacher)
gguf-q4_k_m · 8192 tokens
27.62 GiB–28.59 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
Llama-3.1-Nemotron-70B-Instruct-HFGGUF Q4_K_M (bartowski)
gguf-q4_k_m · 8192 tokens
42.23 GiB–43.57 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
Qwen2.5-72B-InstructGGUF Q4_K_M
gguf-q4_k_m · 8192 tokens
43.61 GiB–44.98 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
Qwen3-Next-80B-A3B-InstructGGUF Q4_K_M (Qwen)
gguf-q4_k_m · 8192 tokens
45.96 GiB–47.29 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
gpt-oss-120bMXFP4 safetensors
mxfp4 · 8192 tokens
61.18 GiB–62.79 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
GLM-4.5-AirGGUF Q4_K_M (Unsloth)
gguf-q4_k_m · 8192 tokens
69.53 GiB–71.36 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
Qwen3.8-Flash-NextGGUF Q4_K_M (bartowski)
gguf-q4_k_m · 8192 tokens
111.75 GiB–131.53 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
MiniMax-M2GGUF Q4_K_M (Unsloth)
gguf-q4_k_m · 8192 tokens
130.90 GiB–133.99 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
Qwen3-235B-A22BGGUF Q4_K_M (Qwen)
gguf-q4_k_m · 8192 tokens
133.99 GiB–137.11 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
Qwen3-235B-A22B-Instruct-2507GGUF Q4_K_M (Unsloth)
gguf-q4_k_m · 8192 tokens
133.99 GiB–137.11 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
Llama 3.3 70B InstructOfficial BF16 safetensors
bf16 · 8192 tokens
134.04 GiB–137.22 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
DeepSeek-V4-Flash-0731FP8 safetensors
fp8 · 8192 tokens
156.21 GiB–183.71 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
GLM-4.6GGUF Q4_K_M (Unsloth)
gguf-q4_k_m · 8192 tokens
203.78 GiB–208.37 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
GLM-4.5GGUF Q4_K_M (Unsloth)
gguf-q4_k_m · 8192 tokens
204.59 GiB–209.20 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
MiniMax-M3GGUF Q4_K_M (bartowski)
gguf-q4_k_m · 8192 tokens
244.40 GiB–249.71 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
GLM-5.3-FlashGGUF Q8_0 (Unsloth)
gguf-q8_0 · 8192 tokens
318.04 GiB–373.58 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
DeepSeek-V3GGUF Q4_K_M (Unsloth)
gguf-q4_k_m · 8192 tokens
377.32 GiB–443.15 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
DeepSeek-R1GGUF Q4_K_M (Unsloth)
gguf-q4_k_m · 8192 tokens
377.32 GiB–443.15 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
DeepSeek-V3-0324GGUF Q4_K_M (Unsloth)
gguf-q4_k_m · 8192 tokens
377.32 GiB–443.15 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
DeepSeek-R1-0528GGUF Q4_K_M (Unsloth)
gguf-q4_k_m · 8192 tokens
377.79 GiB–443.71 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
DeepSeek-V3.1GGUF Q4_K_M (Unsloth)
gguf-q4_k_m · 8192 tokens
378.22 GiB–444.21 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
Muse Spark OpenOfficial NVFP4 safetensors
nvfp4 · 8192 tokens
498.47 GiB–508.91 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
DeepSeek-V4.1-FlashFP8 safetensors
fp8 · 8192 tokens
475.99 GiB–558.80 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
Ling-3.1-flashOfficial FP8 safetensors (F8_E4M3 experts + BF16 remainder)
fp8 · 8192 tokens
535.11 GiB–628.26 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
Kimi-K2-InstructGGUF Q4_K_M (Unsloth)
gguf-q4_k_m · 8192 tokens
578.81 GiB–679.50 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
Kimi-K2-ThinkingGGUF Q4_K_M (Unsloth)
gguf-q4_k_m · 8192 tokens
579.24 GiB–680.01 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。
GLM-5.3GGUF Q8_0 (Unsloth)
gguf-q8_0 · 8192 tokens
747.13 GiB–876.98 GiBメモリ不足の見込み未確認これは見積もりであり、実機トレースではありません。

この SKU の測定済みと予定の証拠

一致する実行時常駐の実測が付いていない限り、このページは見積もりです。

このデバイスでハードウェア優先の計算機を開く計算機

関連ページ

出典

計算機

公開カタログスナップショットを読み込み中…

GPU またはユニファイドメモリのマシンと台数を先に選びます。

機材の種類

GPU またはユニファイドメモリを選ぶと、候補がすぐに出ます。

ワークロード

コンテキスト長は主に KV キャッシュメモリに効きます。

詳細設定
ランタイム

この見積もりで使うエンジンと KV キャッシュの型です。

オフ: GGUF / Q8 などのフィルタは厳格です。オン: 要求・使用・理由付きで代替を示します。

ワークロード

オーバーヘッドの想定と、プリフィル作業領域を含めるかどうかです。

トポロジ

モデルを複数デバイスへどう分割するか。メモリは合算しません。

複製数は上級オプションです。台数はノードまたは GPU であり、複製数ではありません。

予算

システム予約と安全余裕。数字を空にすると直前の値を保ちます。

GiB（2^30 バイト）

%

機材とワークロード

GPU またはユニファイドメモリを選ぶと、候補がすぐに出ます。

常駐ウェイトの見積もりは総パラメータを使い、非アクティブな MoE エキスパートも含めます。

機材を選ぶと候補モデルが出ます。先にモデルは不要です。