Quais LLMs locais cabem em 24 GB de VRAM? (out. de 2026)

Radeon RX 7900 XTX 24GB (desktop) é o SKU do catálogo com o menor orçamento líquido nesta faixa discreta de 24 GB: 22,00 GiB após a reserva documentada. 58 modelos do catálogo cabem com um artefato que tem arquivo. O mês vem do conjunto 2026-10-02.1 (out. de 2026), não do relógio da compilação.

Conjunto de dados 2026-10-02.1 (out. de 2026).

SKUs do catálogo nesta faixa

Placa	Capacidade anunciada	Orçamento líquido
Radeon RX 7900 XTX 24GB (desktop) Menor orçamento líquido	24 GB GDDR6	22,00 GiB
GeForce RTX 3090 24GB (desktop)	24 GB GDDR6X	22,00 GiB
GeForce RTX 4090 24GB (desktop)	24 GB GDDR6X	22,00 GiB

Modelos do catálogo que cabem

Cada linha é um artefato com arquivo na placa de referência. Uma quantização ausente não é substituída. A busca de contexto para no teto documentado. Sem esse teto, o veredito aparece só em 8192 tokens.

Quando a largura de banda não está no catálogo, o teto de decodificação diz não disponível. Isso não é um veredito de memória.

Modelo	Artefato	Maior contexto que cabe	Maior contexto incluindo apertado	Veredito em 8192 tokens	Teto de decodificação	Ligações
Qwen2.5-0.5B-Instruct	GGUF Q4_K_M (Qwen) `gguf-q4_k_m` · `llama.cpp`	32.768	32.768	8192 Roda com folga 0,68 GiB–1,07 GiB	Não disponível
Qwen3-0.6B	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	40.960	40.960	8192 Roda com folga 1,37 GiB–1,81 GiB	Não disponível
Gemma 3 1B IT	GGUF Q4_0 (Google QAT) `gguf-q4_0` · `llama.cpp`	32.768	32.768	8192 Roda com folga 1,10 GiB–1,50 GiB	Não disponível
Llama 3.2 1B Instruct	Official BF16 safetensors `bf16` · `vllm`	131.072	131.072	8192 Roda com folga 3,18 GiB–5,06 GiB	Não disponível
Qwen2.5-1.5B-Instruct	GGUF Q4_K_M (Qwen) `gguf-q4_k_m` · `llama.cpp`	32.768	32.768	8192 Roda com folga 1,38 GiB–1,80 GiB	Não disponível
Qwen2.5-Coder-1.5B-Instruct	GGUF Q4_K_M (Qwen) `gguf-q4_k_m` · `llama.cpp`	32.768	32.768	8192 Roda com folga 1,38 GiB–1,80 GiB	Não disponível
SmolLM2-1.7B-Instruct	GGUF Q4_K_M (Hugging Face) `gguf-q4_k_m` · `llama.cpp`	8.192	8.192	8192 Roda com folga 2,61 GiB–3,11 GiB	Não disponível
Qwen3-1.7B-Base	GGUF Q4_K_M (mradermacher) `gguf-q4_k_m` · `llama.cpp`	32.768	32.768	8192 Roda com folga 2,03 GiB–2,49 GiB	Não disponível
Qwen3-1.7B	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	40.960	40.960	8192 Roda com folga 2,03 GiB–2,49 GiB	Não disponível
Qwen2.5-3B-Instruct	GGUF Q4_K_M `gguf-q4_k_m` · `llama.cpp`	32.768	32.768	8192 Roda com folga 2,37 GiB–2,80 GiB	Não disponível	Qwen2.5-3B-Instruct · GeForce RTX 4090 24GB (desktop)
Qwen2.5-Coder-3B-Instruct	GGUF Q4_K_M (Qwen) `gguf-q4_k_m` · `llama.cpp`	32.768	32.768	8192 Roda com folga 2,37 GiB–2,80 GiB	Não disponível
Llama 3.2 3B Instruct	Official BF16 safetensors `bf16` · `vllm`	102.855	131.072	8192 Roda com folga 7,48 GiB–9,39 GiB	Não disponível
Qwen2.5-VL-3B-Instruct	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	128.000	128.000	8192 Roda com folga 2,20 GiB–2,63 GiB	Não disponível
Phi-3.5-mini-instruct	GGUF Q4_K_M (bartowski) `gguf-q4_k_m` · `llama.cpp`	43.452	53.647	8192 Roda com folga 5,35 GiB–5,98 GiB	Não disponível
Phi-4-mini-instruct	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	129.639	131.072	8192 Roda com folga 3,45 GiB–3,94 GiB	Não disponível
Qwen3-4B	GGUF Q4_K_M `gguf-q4_k_m` · `llama.cpp`	40.960	40.960	8192 Roda com folga 3,58 GiB–4,08 GiB	Não disponível
Qwen3-4B-Instruct-2507	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	115.199	142.353	8192 Roda com folga 3,58 GiB–4,08 GiB	Não disponível
Gemma 3 4B IT	GGUF Q4_0 (Google QAT) `gguf-q4_0` · `llama.cpp`	131.072	131.072	8192 Roda com folga 3,33 GiB–3,79 GiB	Não disponível
Qwen3-VL-4B-Instruct	GGUF Q4_K_M (Qwen) `gguf-q4_k_m` · `llama.cpp`	115.199	142.353	8192 Roda com folga 3,58 GiB–4,08 GiB	Não disponível
Mistral-7B-Instruct-v0.3	GGUF Q4_K_M (bartowski) `gguf-q4_k_m` · `llama.cpp`	32.768	32.768	8192 Roda com folga 5,20 GiB–5,72 GiB	Não disponível
DeepSeek-R1-Distill-Qwen-7B	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	131.072	131.072	8192 Roda com folga 4,92 GiB–5,42 GiB	Não disponível
OpenMath-Nemotron-7B	GGUF Q4_K_M (mradermacher) `gguf-q4_k_m` · `llama.cpp`	131.072	131.072	8192 Roda com folga 4,92 GiB–5,42 GiB	Não disponível
Qwen2-7B-Instruct	GGUF Q4_K_M (Qwen) `gguf-q4_k_m` · `llama.cpp`	32.768	32.768	8192 Roda com folga 4,92 GiB–5,42 GiB	Não disponível
Qwen2.5-7B-Instruct	GGUF Q4_K_M `gguf-q4_k_m` · `llama.cpp`	32.768	32.768	8192 Roda com folga 4,92 GiB–5,42 GiB	Não disponível	Qwen2.5-7B-Instruct · Radeon RX 7900 XTX 24GB (desktop) Qwen2.5-7B-Instruct · GeForce RTX 4090 24GB (desktop)
Qwen2.5-Coder-7B	GGUF Q4_K_M (mradermacher) `gguf-q4_k_m` · `llama.cpp`	32.768	32.768	8192 Roda com folga 4,92 GiB–5,42 GiB	Não disponível
Qwen2.5-Coder-7B-Instruct	GGUF Q4_K_M (Qwen) `gguf-q4_k_m` · `llama.cpp`	32.768	32.768	8192 Roda com folga 4,92 GiB–5,42 GiB	Não disponível
Qwen2.5-Math-7B-Instruct	GGUF Q4_K_M (bartowski) `gguf-q4_k_m` · `llama.cpp`	4.096	4.096	8192 Roda com folga · Estimativa grosseira 4,92 GiB–6,23 GiB	Não disponível
DeepSeek-R1-Distill-Llama-8B	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	111.974	131.072	8192 Roda com folga 5,71 GiB–6,24 GiB	Não disponível
Llama 3.1 8B Instruct	Official BF16 safetensors `bf16` · `vllm`	18.630	52.571	8192 Cabe 16,58 GiB–18,49 GiB	Não disponível
granite-3.3-8b-instruct	GGUF Q4_K_M (IBM) `gguf-q4_k_m` · `llama.cpp`	89.450	113.191	8192 Roda com folga 5,98 GiB–6,53 GiB	Não disponível
Qwen3-8B	GGUF Q4_K_M `gguf-q4_k_m` · `llama.cpp`	40.960	40.960	8192 Roda com folga 5,93 GiB–6,48 GiB	Não disponível
Qwen3-8B-Base	GGUF Q4_K_M (mradermacher) `gguf-q4_k_m` · `llama.cpp`	32.768	32.768	8192 Roda com folga 5,93 GiB–6,48 GiB	Não disponível
Qwen2.5-VL-7B-Instruct	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	128.000	128.000	8192 Roda com folga 4,92 GiB–5,42 GiB	Não disponível
Qwen3-VL-8B-Instruct	GGUF Q4_K_M (Qwen) `gguf-q4_k_m` · `llama.cpp`	98.840	125.192	8192 Roda com folga 5,93 GiB–6,48 GiB	Não disponível
GLM-4-9B-0414	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	32.768	32.768	8192 Roda com folga 6,18 GiB–6,69 GiB	Não disponível
Gemma 3 12B IT	GGUF Q4_0 (Google QAT) `gguf-q4_0` · `llama.cpp`	131.072	131.072	8192 Roda com folga 8,46 GiB–9,04 GiB	Não disponível
Mistral-Nemo-Instruct-2407	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	74.705	97.722	8192 Roda com folga 8,34 GiB–8,94 GiB	Não disponível
phi-4	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	16.384	16.384	8192 Roda com folga 9,97 GiB–10,62 GiB	Não disponível
Phi-4-reasoning	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	32.768	32.768	8192 Roda com folga 10,12 GiB–10,77 GiB	Não disponível
Qwen3-14B	GGUF Q4_K_M `gguf-q4_k_m` · `llama.cpp`	40.960	40.960	8192 Roda com folga 9,76 GiB–10,39 GiB	Não disponível
OpenMath-Nemotron-14B	GGUF Q4_K_M (mradermacher) `gguf-q4_k_m` · `llama.cpp`	54.928	73.750	8192 Roda com folga 10,00 GiB–10,64 GiB	Não disponível
Qwen2.5-14B-Instruct	GGUF Q4_K_M `gguf-q4_k_m` · `llama.cpp`	32.768	32.768	8192 Roda com folga 10,00 GiB–10,64 GiB	Não disponível	Qwen2.5-14B-Instruct · GeForce RTX 4090 24GB (desktop)
Qwen2.5-Coder-14B-Instruct	GGUF Q4_K_M (Qwen) `gguf-q4_k_m` · `llama.cpp`	32.768	32.768	8192 Roda com folga 10,00 GiB–10,64 GiB	Não disponível
DeepSeek-V2-Lite-Chat	GGUF Q4_K_M (mradermacher) `gguf-q4_k_m` · `llama.cpp`	163.840	163.840	8192 Roda com folga · Estimativa grosseira 10,01 GiB–12,23 GiB	Não disponível	DeepSeek-V2-Lite-Chat · GeForce RTX 4090 24GB (desktop)
gpt-oss-20b	MXFP4 safetensors `mxfp4` · `vllm`	131.072	131.072	8192 Cabe 13,63 GiB–15,51 GiB	Não disponível
Mistral-Small-24B-Instruct-2501	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	32.768	32.768	8192 Cabe 14,72 GiB–15,45 GiB	Não disponível
Gemma 3 27B IT	GGUF Q4_0 (Google QAT) `gguf-q4_0` · `llama.cpp`	30.600	71.072	8192 Cabe 17,20 GiB–17,97 GiB	Não disponível
Qwen3.8-27B	GGUF UD-IQ1_S (Unsloth) `gguf-ud-iq1_s` · `llama.cpp`	163.484	261.490	8192 Roda com folga · Estimativa grosseira 6,54 GiB–8,14 GiB	Não disponível	Qwen3.8-27B · GeForce RTX 4090 24GB (desktop)
Qwen3-30B-A3B	GGUF Q4_K_M `gguf-q4_k_m` · `llama.cpp`	17.068	40.960	8192 Cabe 18,16 GiB–18,93 GiB	Não disponível	Qwen3-30B-A3B · GeForce RTX 4090 24GB (desktop)
Qwen3-30B-A3B-Instruct-2507	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	17.068	50.164	8192 Cabe 18,16 GiB–18,93 GiB	Não disponível
Qwen3-VL-30B-A3B-Instruct	GGUF Q4_K_M (Qwen) `gguf-q4_k_m` · `llama.cpp`	17.068	50.164	8192 Cabe 18,16 GiB–18,93 GiB	Não disponível
Qwen3-32B	GGUF Q4_K_M `gguf-q4_k_m` · `llama.cpp`	2.116	14.213	8192 Apertado 20,53 GiB–21,41 GiB	Não disponível
DeepSeek-R1-Distill-Qwen-32B	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	1.775	13.873	8192 Apertado 20,61 GiB–21,50 GiB	Não disponível
OpenMath-Nemotron-32B	GGUF Q4_K_M (mradermacher) `gguf-q4_k_m` · `llama.cpp`	1.775	13.873	8192 Apertado 20,61 GiB–21,50 GiB	Não disponível
Qwen2.5-32B-Instruct	GGUF Q4_K_M `gguf-q4_k_m` · `llama.cpp`	1.775	13.873	8192 Apertado 20,61 GiB–21,50 GiB	Não disponível	Qwen2.5-32B-Instruct · GeForce RTX 4090 24GB (desktop)
Qwen2.5-Coder-32B-Instruct	GGUF Q4_K_M (Qwen) `gguf-q4_k_m` · `llama.cpp`	1.775	13.873	8192 Apertado 20,61 GiB–21,50 GiB	Não disponível
QwQ-32B	GGUF Q4_K_M (Qwen) `gguf-q4_k_m` · `llama.cpp`	1.775	13.873	8192 Apertado 20,61 GiB–21,50 GiB	Não disponível
Qwen2.5-VL-32B-Instruct	GGUF Q4_K_M (Unsloth) `gguf-q4_k_m` · `llama.cpp`	1.775	13.873	8192 Apertado 20,61 GiB–21,50 GiB	Não disponível

Quais LLMs locais cabem em 24 GB de VRAM? (out. de 2026)

SKUs do catálogo nesta faixa

Modelos do catálogo que cabem

Combinações permitidas