Comparar resultados
Juicios allowlist de modelo × hardware del mismo núcleo de cálculo.
DGX Spark y RTX 5090VRAM discreta y memoria unificada del catálogo. Los grupos de memoria no se suman.Qwen2.5-3B-Instruct · GeForce RTX 4090 24GB (desktop)gguf-q4_k_m · 8,192 · llama.cppQwen2.5-7B-Instruct · GeForce RTX 4060 8GB (desktop)gguf-q4_k_m · 8,192 · llama.cppQwen2.5-7B-Instruct · GeForce RTX 4090 24GB (desktop)bf16 · 8,192 · vllmQwen2.5-14B-Instruct · GeForce RTX 4090 24GB (desktop)gguf-q4_k_m · 8,192 · llama.cppQwen2.5-32B-Instruct · GeForce RTX 4090 24GB (desktop)gguf-q4_k_m · 8,192 · llama.cppQwen2.5-72B-Instruct · GeForce RTX 4090 24GB (desktop)gguf-q4_k_m · 4,096 · llama.cppQwen2.5-72B-Instruct · NVIDIA A100 80GB SXMbf16 · 8,192 · vllmQwen3-30B-A3B · GeForce RTX 4090 24GB (desktop)gguf-q4_k_m · 8,192 · llama.cppMixtral-8x7B-Instruct-v0.1 · GeForce RTX 4090 24GB (desktop)bf16 · 4,096 · vllmPhi-3.5-mini-instruct · GeForce RTX 4060 8GB (desktop)bf16 · 8,192 · vllmQwen3-8B · GeForce RTX 4070 12GB (desktop, GDDR6X)gguf-q4_k_m · 8,192 · llama.cppQwen2.5-32B-Instruct · NVIDIA DGX Spark (GB10, 128 GB unified)bf16 · 8,192 · vllmQwen2.5-7B-Instruct · Radeon RX 7900 XTX 24GB (desktop)gguf-q4_k_m · 8,192 · llama.cppDeepSeek-V2-Lite-Chat · GeForce RTX 4090 24GB (desktop)bf16 · 4,096 · vllmQwen2.5-14B-Instruct · GeForce RTX 4060 Ti 16GB (desktop)gguf-q4_k_m · 8,192 · llama.cppQwen3-32B · NVIDIA H100 80GB SXMbf16 · 32,768 · vllmQwen2.5-72B-Instruct · NVIDIA DGX Spark (GB10, 128 GB unified)gguf-q4_k_m · 8,192 · llama.cppQwen3.8-27B · GeForce RTX 4090 24GB (desktop)gguf-ud-q4_k_m · 8,192 · llama.cppQwen3.8-27B · NVIDIA DGX Spark (GB10, 128 GB unified)gguf-ud-q4_k_m · 32,768 · llama.cppQwen3.8-27B · Apple M2 Max 64GB unified (MacBook Pro / Mac Studio)gguf-ud-q4_k_m · 8,192 · llama.cppDeepSeek-V4.1-Flash · NVIDIA DGX Spark (GB10, 128 GB unified)fp8 · 4,096 · vllm