Dónde la estimación coincidió con una medición y dónde aún no se ha medido
Esta página lista 3 calibraciones internas. Las filas comparadas son Qwen2.5-3B-Instruct en GeForce RTX 4090 24GB (desktop). Se comparan los bytes totales previstos con los bytes medidos del proceso, no con los bytes ocupados de la placa. Las filas se quedan separadas. No se reducen a una sola cifra de error. Planificado y sin bytes medidos: Qwen2.5-7B-Instruct, Qwen2.5-32B-Instruct y NVIDIA DGX Spark (GB10, 128 GB unified).
Calibraciones medidas
| Calibración | Modelo | Hardware | Motor | Cuantización | Contexto | Captura | Bytes medidos del proceso | Mínimo previsto | Máximo previsto | Medido menos el mínimo | Medido menos el máximo | Ruta de la evidencia |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
rt-qwen2.5-3b-instruct-q4km-4090-ctx512 | Qwen2.5-3B-Instruct | GeForce RTX 4090 24GB (desktop) | llama.cppversion: 0.4.1-dev (build 1, commit 1af554f) | GGUF Q4_K_Mgguf-q4_k_m | 5121 · fp16 | 2.485.125.120 bytes 2,31 GiB Dentro del rango previsto | 2.258.024.864 bytes 2,10 GiB | 2.703.154.191 bytes 2,52 GiB | +227.100.256 bytes +0,21 GiB | -218.029.071 bytes −0,20 GiB | docs/evidence/calibrations/rt-qwen2.5-3b-instruct-q4km-4090-ctx512.json | |
rt-qwen2.5-3b-instruct-q4km-4090-ctx2048 | Qwen2.5-3B-Instruct | GeForce RTX 4090 24GB (desktop) | llama.cppversion: 0.4.1-dev (build 1, commit 1af554f) | GGUF Q4_K_Mgguf-q4_k_m | 20481 · fp16 | 2.543.845.376 bytes 2,37 GiB Dentro del rango previsto | 2.314.647.968 bytes 2,16 GiB | 2.760.909.757 bytes 2,57 GiB | +229.197.408 bytes +0,21 GiB | -217.064.381 bytes −0,20 GiB | docs/evidence/calibrations/rt-qwen2.5-3b-instruct-q4km-4090-ctx2048.json | |
rt-qwen2.5-3b-instruct-q4km-4090-ctx8192 | Qwen2.5-3B-Instruct | GeForce RTX 4090 24GB (desktop) | llama.cppversion: 0.4.1-dev (build 1, commit 1af554f) | GGUF Q4_K_Mgguf-q4_k_m | 81921 · fp16 | 2.776.629.248 bytes 2,59 GiB Dentro del rango previsto | 2.541.140.384 bytes 2,37 GiB | 3.007.031.516 bytes 2,80 GiB | +235.488.864 bytes +0,22 GiB | -230.402.268 bytes −0,21 GiB | docs/evidence/calibrations/rt-qwen2.5-3b-instruct-q4km-4090-ctx8192.json |
Planificado, no medido
| Calibración | Plan | Modelo | Hardware | Cuantización | Estado | Nota |
|---|---|---|---|---|---|---|
planned-qwen2.5-7b-instruct-q4km-4090 | P-01 | Qwen2.5-7B-Instruct | GeForce RTX 4090 24GB (desktop) | gguf-q4_k_m | Planificado | BENCHMARKS.md Planned Run Plan P-01. Not a measured calibration. |
planned-qwen2.5-32b-instruct-q4km-4090 | P-02 | Qwen2.5-32B-Instruct | GeForce RTX 4090 24GB (desktop) | gguf-q4_k_m | Planificado | BENCHMARKS.md Planned Run Plan P-02. Not a measured calibration. |
planned-dgx-spark-unified-memory | P-03 | — | NVIDIA DGX Spark (GB10, 128 GB unified) | — | Planificado | BENCHMARKS.md Planned Run Plan P-03. Not a measured calibration. |
Referencias de recetas de la comunidad
Cada fila de abajo es una referencia comunitaria copiada del archivo de recetas. No es una calibración de laboratorio. Su velocidad no entra en la tabla de calibración.
| Estado | Calibración | Métrica | Valor | Unidad | Fuente |
|---|---|---|---|---|---|
| Referencia comunitaria | deepseek-v4.1-flash-2x-spark-exl3 | decode-tok-s | 31,6 | tok/s | Fuente |
| Referencia comunitaria | deepseek-v4.1-flash-2x-spark-exl3 | decode-tok-s | 42,5 | tok/s | Fuente |
| Referencia comunitaria | deepseek-v4.1-flash-2x-spark-exl3 | decode-tok-s | 42,8 | tok/s | Fuente |
| Referencia comunitaria | deepseek-v4.1-flash-2x-spark-exl3 | prefill-tok-s | 1054,7 | tok/s | Fuente |
| Referencia comunitaria | deepseek-v4.1-flash-2x-spark-exl3 | prefill-tok-s | 872,6 | tok/s | Fuente |
| Referencia comunitaria | deepseek-v4.1-flash-3x-spark-sglang | decode-tok-s | 37,9 | tok/s | Fuente |
| Referencia comunitaria | deepseek-v4.1-flash-3x-spark-sglang | decode-tok-s | 58,9 | tok/s | Fuente |
| Referencia comunitaria | deepseek-v4.1-flash-3x-spark-sglang | decode-tok-s | 71,2 | tok/s | Fuente |
| Referencia comunitaria | deepseek-v4.1-flash-3x-spark-sglang | decode-tok-s | 78,6 | tok/s | Fuente |
| Referencia comunitaria | deepseek-v4.1-flash-4x-spark-full-context | decode-tok-s | 45,4 | tok/s | Fuente |
| Referencia comunitaria | deepseek-v4.1-flash-4x-spark-full-context | decode-tok-s | 72,9 | tok/s | Fuente |
| Referencia comunitaria | deepseek-v4.1-flash-4x-spark-full-context | decode-tok-s | 103,1 | tok/s | Fuente |
| Referencia comunitaria | deepseek-v4.1-flash-4x-spark-full-context | decode-tok-s | 114,1 | tok/s | Fuente |
| Referencia comunitaria | deepseek-v4.1-flash-4x-spark-full-context | decode-tok-s | 134,2 | tok/s | Fuente |
| Referencia comunitaria | deepseek-v4.1-flash-4x-spark-full-context | prefill-tok-s | 3350 | tok/s | Fuente |
| Referencia comunitaria | deepseek-v4.1-flash-4x-spark-full-context | prefill-tok-s | 3782 | tok/s | Fuente |
| Referencia comunitaria | deepseek-v4.1-flash-4x-spark-full-context | prefill-tok-s | 3768 | tok/s | Fuente |
| Referencia comunitaria | deepseek-v4.1-flash-4x-spark-full-context | prefill-tok-s | 3531 | tok/s | Fuente |
| Referencia comunitaria | deepseek-v4.1-flash-4x-spark-full-context | prefill-tok-s | 3251 | tok/s | Fuente |
| Referencia comunitaria | deepseek-v4-flash-0731-2x-spark-dspark | decode-tok-s | 75,4 | tok/s | Fuente |
| Referencia comunitaria | deepseek-v4-flash-0731-2x-spark-dspark | decode-tok-s | 104,9 | tok/s | Fuente |
| Referencia comunitaria | deepseek-v4-flash-0731-2x-spark-dspark | decode-tok-s | 164,5 | tok/s | Fuente |
| Referencia comunitaria | deepseek-v4-flash-0731-2x-spark-dspark | decode-tok-s | 191,2 | tok/s | Fuente |
| Referencia comunitaria | qwen3.8-27b-rtx5090-32gb-nvfp4 | decode-tok-s | 160 | tok/s | Fuente |