VRAM 8GBで動くローカルLLM（2026年10月）

GeForce RTX 3060 8GB (desktop) は、この 8GB の独立VRAM帯で正味予算が最小のカタログ機です。記録済みの予約を引くと 7.00 GiB。ファイルサイズのある量子化で入るカタログモデルは 32 件です。月はデータセット 2026-10-02.1（2026年10月）で、ビルド時刻ではありません。

カタログのデータセット 2026-10-02.1（2026年10月）。

この帯のカタログ機

機種	公称容量	正味予算
GeForce RTX 3060 8GB (desktop) 正味予算が最小	8 GB GDDR6	7.00 GiB
GeForce RTX 3070 8GB (desktop)	8 GB GDDR6	7.00 GiB
GeForce RTX 4060 8GB (desktop)	8 GB GDDR6	7.00 GiB
GeForce RTX 5060 Ti 8GB (desktop)	8 GB GDDR7	7.00 GiB

入るカタログモデル

各行は代表機の、ファイルサイズがある量子化です。無い量子化は置き換えません。文脈長は記録された上限まで探します。上限が無いときは判定を 8192 とだけ示します。

帯域がカタログに無いとき、デコード上限はデータなしです。これはメモリ判定ではありません。

モデル	量子化ファイル	収まる最長コンテキスト	厳しい帯を含む最長コンテキスト	8192 の判定	デコード上限	リンク
Qwen2.5-0.5B-Instruct	GGUF Q4_K_M (Qwen) `gguf-q4_k_m` · `llama.cpp`	32,768	32,768	8192 余裕あり 0.68 GiB–1.07 GiB	データなし
Qwen3-0.6B	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	40,960	40,960	8192 余裕あり 1.37 GiB–1.81 GiB	データなし
Gemma 3 1B IT	GGUF Q4_0 (Google QAT) `gguf-q4_0` · `llama.cpp`	32,768	32,768	8192 余裕あり 1.10 GiB–1.50 GiB	データなし
Llama 3.2 1B Instruct	Official BF16 safetensors `bf16` · `vllm`	47,659	131,072	8192 収まる 3.18 GiB–5.06 GiB	データなし
Qwen2.5-1.5B-Instruct	GGUF Q4_K_M (Qwen) `gguf-q4_k_m` · `llama.cpp`	32,768	32,768	8192 余裕あり 1.38 GiB–1.80 GiB	データなし
Qwen2.5-Coder-1.5B-Instruct	GGUF Q4_K_M (Qwen) `gguf-q4_k_m` · `llama.cpp`	32,768	32,768	8192 余裕あり 1.38 GiB–1.80 GiB	データなし
SmolLM2-1.7B-Instruct	GGUF Q4_K_M (Hugging Face) `gguf-q4_k_m` · `llama.cpp`	8,192	8,192	8192 余裕あり 2.61 GiB–3.11 GiB	データなし
Qwen3-1.7B-Base	GGUF Q4_K_M (mradermacher) `gguf-q4_k_m` · `llama.cpp`	32,768	32,768	8192 余裕あり 2.03 GiB–2.49 GiB	データなし
Qwen3-1.7B	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	40,960	40,960	8192 余裕あり 2.03 GiB–2.49 GiB	データなし
Qwen2.5-3B-Instruct	GGUF Q4_K_M `gguf-q4_k_m` · `llama.cpp`	32,768	32,768	8192 余裕あり 2.37 GiB–2.80 GiB	データなし
Qwen2.5-Coder-3B-Instruct	GGUF Q4_K_M (Qwen) `gguf-q4_k_m` · `llama.cpp`	32,768	32,768	8192 余裕あり 2.37 GiB–2.80 GiB	データなし
Qwen2.5-VL-3B-Instruct	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	107,979	128,000	8192 余裕あり 2.20 GiB–2.63 GiB	データなし
Phi-3.5-mini-instruct	GGUF Q4_K_M (bartowski) `gguf-q4_k_m` · `llama.cpp`	8,999	12,687	8192 収まる 5.35 GiB–5.98 GiB	データなし	Phi-3.5-mini-instruct · GeForce RTX 4060 8GB (desktop)
Phi-4-mini-instruct	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	26,282	37,308	8192 余裕あり 3.45 GiB–3.94 GiB	データなし
Qwen3-4B	GGUF Q4_K_M `gguf-q4_k_m` · `llama.cpp`	23,326	33,126	8192 余裕あり 3.58 GiB–4.08 GiB	データなし
Qwen3-4B-Instruct-2507	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	23,326	33,126	8192 余裕あり 3.58 GiB–4.08 GiB	データなし
Gemma 3 4B IT	GGUF Q4_0 (Google QAT) `gguf-q4_0` · `llama.cpp`	131,072	131,072	8192 余裕あり 3.33 GiB–3.79 GiB	データなし
Qwen3-VL-4B-Instruct	GGUF Q4_K_M (Qwen) `gguf-q4_k_m` · `llama.cpp`	23,326	33,126	8192 余裕あり 3.58 GiB–4.08 GiB	データなし
Mistral-7B-Instruct-v0.3	GGUF Q4_K_M (bartowski) `gguf-q4_k_m` · `llama.cpp`	12,602	22,958	8192 収まる 5.20 GiB–5.72 GiB	データなし
DeepSeek-R1-Distill-Qwen-7B	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	23,647	47,065	8192 収まる 4.92 GiB–5.42 GiB	データなし
OpenMath-Nemotron-7B	GGUF Q4_K_M (mradermacher) `gguf-q4_k_m` · `llama.cpp`	23,647	47,065	8192 収まる 4.92 GiB–5.42 GiB	データなし
Qwen2-7B-Instruct	GGUF Q4_K_M (Qwen) `gguf-q4_k_m` · `llama.cpp`	23,647	32,768	8192 収まる 4.92 GiB–5.42 GiB	データなし
Qwen2.5-7B-Instruct	GGUF Q4_K_M `gguf-q4_k_m` · `llama.cpp`	23,647	32,768	8192 収まる 4.92 GiB–5.42 GiB	データなし	Qwen2.5-7B-Instruct · GeForce RTX 4060 8GB (desktop)
Qwen2.5-Coder-7B	GGUF Q4_K_M (mradermacher) `gguf-q4_k_m` · `llama.cpp`	23,647	32,768	8192 収まる 4.92 GiB–5.42 GiB	データなし
Qwen2.5-Coder-7B-Instruct	GGUF Q4_K_M (Qwen) `gguf-q4_k_m` · `llama.cpp`	23,647	32,768	8192 収まる 4.92 GiB–5.42 GiB	データなし
Qwen2.5-Math-7B-Instruct	GGUF Q4_K_M (bartowski) `gguf-q4_k_m` · `llama.cpp`	4,096	4,096	8192 収まる · 粗い見積もり 4.92 GiB–6.23 GiB	データなし
DeepSeek-R1-Distill-Llama-8B	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	8,617	18,777	8192 収まる 5.71 GiB–6.24 GiB	データなし
granite-3.3-8b-instruct	GGUF Q4_K_M (IBM) `gguf-q4_k_m` · `llama.cpp`	7,096	14,887	8192 ぎりぎり 5.98 GiB–6.53 GiB	データなし
Qwen3-8B	GGUF Q4_K_M `gguf-q4_k_m` · `llama.cpp`	7,309	15,965	8192 ぎりぎり 5.93 GiB–6.48 GiB	データなし
Qwen3-8B-Base	GGUF Q4_K_M (mradermacher) `gguf-q4_k_m` · `llama.cpp`	7,309	15,965	8192 ぎりぎり 5.93 GiB–6.48 GiB	データなし
Qwen2.5-VL-7B-Instruct	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	23,647	47,065	8192 収まる 4.92 GiB–5.42 GiB	データなし
Qwen3-VL-8B-Instruct	GGUF Q4_K_M (Qwen) `gguf-q4_k_m` · `llama.cpp`	7,309	15,965	8192 ぎりぎり 5.93 GiB–6.48 GiB	データなし