Quais LLMs locais cabem em 12 GB de VRAM? (out. de 2026)

GeForce RTX 3060 12GB (desktop) é o SKU do catálogo com o menor orçamento líquido nesta faixa discreta de 12 GB: 11,00 GiB após a reserva documentada. 43 modelos do catálogo cabem com um artefato que tem arquivo. O mês vem do conjunto 2026-10-02.1 (out. de 2026), não do relógio da compilação.

Conjunto de dados 2026-10-02.1 (out. de 2026).

SKUs do catálogo nesta faixa

Placa	Capacidade anunciada	Orçamento líquido
GeForce RTX 3060 12GB (desktop) Menor orçamento líquido	12 GB GDDR6	11,00 GiB
GeForce RTX 3080 12GB (desktop)	12 GB GDDR6X	11,00 GiB
GeForce RTX 4070 12GB (desktop, GDDR6X)	12 GB GDDR6X	11,00 GiB
GeForce RTX 4070 SUPER 12GB (desktop)	12 GB GDDR6X	11,00 GiB
GeForce RTX 5070 12GB (desktop)	12 GB GDDR7	11,00 GiB

Modelos do catálogo que cabem

Cada linha é um artefato com arquivo na placa de referência. Uma quantização ausente não é substituída. A busca de contexto para no teto documentado. Sem esse teto, o veredito aparece só em 8192 tokens.

Quando a largura de banda não está no catálogo, o teto de decodificação diz não disponível. Isso não é um veredito de memória.

Modelo	Artefato	Maior contexto que cabe	Maior contexto incluindo apertado	Veredito em 8192 tokens	Teto de decodificação	Ligações
Qwen2.5-0.5B-Instruct	GGUF Q4_K_M (Qwen) `gguf-q4_k_m` · `llama.cpp`	32.768	32.768	8192 Roda com folga 0,68 GiB–1,07 GiB	Não disponível
Qwen3-0.6B	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	40.960	40.960	8192 Roda com folga 1,37 GiB–1,81 GiB	Não disponível
Gemma 3 1B IT	GGUF Q4_0 (Google QAT) `gguf-q4_0` · `llama.cpp`	32.768	32.768	8192 Roda com folga 1,10 GiB–1,50 GiB	Não disponível
Llama 3.2 1B Instruct	Official BF16 safetensors `bf16` · `vllm`	131.072	131.072	8192 Roda com folga 3,18 GiB–5,06 GiB	Não disponível
Qwen2.5-1.5B-Instruct	GGUF Q4_K_M (Qwen) `gguf-q4_k_m` · `llama.cpp`	32.768	32.768	8192 Roda com folga 1,38 GiB–1,80 GiB	Não disponível
Qwen2.5-Coder-1.5B-Instruct	GGUF Q4_K_M (Qwen) `gguf-q4_k_m` · `llama.cpp`	32.768	32.768	8192 Roda com folga 1,38 GiB–1,80 GiB	Não disponível
SmolLM2-1.7B-Instruct	GGUF Q4_K_M (Hugging Face) `gguf-q4_k_m` · `llama.cpp`	8.192	8.192	8192 Roda com folga 2,61 GiB–3,11 GiB	Não disponível
Qwen3-1.7B-Base	GGUF Q4_K_M (mradermacher) `gguf-q4_k_m` · `llama.cpp`	32.768	32.768	8192 Roda com folga 2,03 GiB–2,49 GiB	Não disponível
Qwen3-1.7B	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	40.960	40.960	8192 Roda com folga 2,03 GiB–2,49 GiB	Não disponível
Qwen2.5-3B-Instruct	GGUF Q4_K_M `gguf-q4_k_m` · `llama.cpp`	32.768	32.768	8192 Roda com folga 2,37 GiB–2,80 GiB	Não disponível
Qwen2.5-Coder-3B-Instruct	GGUF Q4_K_M (Qwen) `gguf-q4_k_m` · `llama.cpp`	32.768	32.768	8192 Roda com folga 2,37 GiB–2,80 GiB	Não disponível
Llama 3.2 3B Instruct	Official BF16 safetensors `bf16` · `vllm`	12.868	41.107	8192 Cabe 7,48 GiB–9,39 GiB	Não disponível
Qwen2.5-VL-3B-Instruct	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	128.000	128.000	8192 Roda com folga 2,20 GiB–2,63 GiB	Não disponível
Phi-3.5-mini-instruct	GGUF Q4_K_M (bartowski) `gguf-q4_k_m` · `llama.cpp`	18.187	23.609	8192 Roda com folga 5,35 GiB–5,98 GiB	Não disponível
Phi-4-mini-instruct	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	53.843	70.076	8192 Roda com folga 3,45 GiB–3,94 GiB	Não disponível
Qwen3-4B	GGUF Q4_K_M `gguf-q4_k_m` · `llama.cpp`	40.960	40.960	8192 Roda com folga 3,58 GiB–4,08 GiB	Não disponível
Qwen3-4B-Instruct-2507	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	47.826	62.253	8192 Roda com folga 3,58 GiB–4,08 GiB	Não disponível
Gemma 3 4B IT	GGUF Q4_0 (Google QAT) `gguf-q4_0` · `llama.cpp`	131.072	131.072	8192 Roda com folga 3,33 GiB–3,79 GiB	Não disponível
Qwen3-VL-4B-Instruct	GGUF Q4_K_M (Qwen) `gguf-q4_k_m` · `llama.cpp`	47.826	62.253	8192 Roda com folga 3,58 GiB–4,08 GiB	Não disponível
Mistral-7B-Instruct-v0.3	GGUF Q4_K_M (bartowski) `gguf-q4_k_m` · `llama.cpp`	32.768	32.768	8192 Roda com folga 5,20 GiB–5,72 GiB	Não disponível
DeepSeek-R1-Distill-Qwen-7B	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	86.646	121.963	8192 Roda com folga 4,92 GiB–5,42 GiB	Não disponível
OpenMath-Nemotron-7B	GGUF Q4_K_M (mradermacher) `gguf-q4_k_m` · `llama.cpp`	86.646	121.963	8192 Roda com folga 4,92 GiB–5,42 GiB	Não disponível
Qwen2-7B-Instruct	GGUF Q4_K_M (Qwen) `gguf-q4_k_m` · `llama.cpp`	32.768	32.768	8192 Roda com folga 4,92 GiB–5,42 GiB	Não disponível
Qwen2.5-7B-Instruct	GGUF Q4_K_M `gguf-q4_k_m` · `llama.cpp`	32.768	32.768	8192 Roda com folga 4,92 GiB–5,42 GiB	Não disponível
Qwen2.5-Coder-7B	GGUF Q4_K_M (mradermacher) `gguf-q4_k_m` · `llama.cpp`	32.768	32.768	8192 Roda com folga 4,92 GiB–5,42 GiB	Não disponível
Qwen2.5-Coder-7B-Instruct	GGUF Q4_K_M (Qwen) `gguf-q4_k_m` · `llama.cpp`	32.768	32.768	8192 Roda com folga 4,92 GiB–5,42 GiB	Não disponível
Qwen2.5-Math-7B-Instruct	GGUF Q4_K_M (bartowski) `gguf-q4_k_m` · `llama.cpp`	4.096	4.096	8192 Roda com folga · Estimativa grosseira 4,92 GiB–6,23 GiB	Não disponível
DeepSeek-R1-Distill-Llama-8B	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	36.179	51.545	8192 Roda com folga 5,71 GiB–6,24 GiB	Não disponível
granite-3.3-8b-instruct	GGUF Q4_K_M (IBM) `gguf-q4_k_m` · `llama.cpp`	28.814	41.101	8192 Roda com folga 5,98 GiB–6,53 GiB	Não disponível
Qwen3-8B	GGUF Q4_K_M `gguf-q4_k_m` · `llama.cpp`	31.467	40.960	8192 Roda com folga 5,93 GiB–6,48 GiB	Não disponível	Qwen3-8B · GeForce RTX 4070 12GB (desktop, GDDR6X)
Qwen3-8B-Base	GGUF Q4_K_M (mradermacher) `gguf-q4_k_m` · `llama.cpp`	31.467	32.768	8192 Roda com folga 5,93 GiB–6,48 GiB	Não disponível	Qwen3-8B-Base · GeForce RTX 4070 12GB (desktop, GDDR6X)
Qwen2.5-VL-7B-Instruct	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	86.646	121.963	8192 Roda com folga 4,92 GiB–5,42 GiB	Não disponível
Qwen3-VL-8B-Instruct	GGUF Q4_K_M (Qwen) `gguf-q4_k_m` · `llama.cpp`	31.467	45.092	8192 Roda com folga 5,93 GiB–6,48 GiB	Não disponível	Qwen3-VL-8B-Instruct · GeForce RTX 4070 12GB (desktop, GDDR6X)
GLM-4-9B-0414	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	32.768	32.768	8192 Roda com folga 6,18 GiB–6,69 GiB	Não disponível
Gemma 3 12B IT	GGUF Q4_0 (Google QAT) `gguf-q4_0` · `llama.cpp`	21.364	49.849	8192 Cabe 8,46 GiB–9,04 GiB	Não disponível
Mistral-Nemo-Instruct-2407	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	14.069	25.633	8192 Cabe 8,34 GiB–8,94 GiB	Não disponível
phi-4	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	4.907	13.606	8192 Apertado 9,97 GiB–10,62 GiB	Não disponível
Phi-4-reasoning	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	4.112	12.811	8192 Apertado 10,12 GiB–10,77 GiB	Não disponível
Qwen3-14B	GGUF Q4_K_M `gguf-q4_k_m` · `llama.cpp`	5.453	16.328	8192 Apertado 9,76 GiB–10,39 GiB	Não disponível
OpenMath-Nemotron-14B	GGUF Q4_K_M (mradermacher) `gguf-q4_k_m` · `llama.cpp`	4.614	13.676	8192 Apertado 10,00 GiB–10,64 GiB	Não disponível
Qwen2.5-14B-Instruct	GGUF Q4_K_M `gguf-q4_k_m` · `llama.cpp`	4.614	13.676	8192 Apertado 10,00 GiB–10,64 GiB	Não disponível
Qwen2.5-Coder-14B-Instruct	GGUF Q4_K_M (Qwen) `gguf-q4_k_m` · `llama.cpp`	4.614	13.676	8192 Apertado 10,00 GiB–10,64 GiB	Não disponível
Qwen3.8-27B	GGUF UD-IQ1_S (Unsloth) `gguf-ud-iq1_s` · `llama.cpp`	31.666	81.266	8192 Cabe · Estimativa grosseira 6,54 GiB–8,14 GiB	Não disponível