Llama 3.3 70B Instruct: requisitos de VRAM y memoria

Puntos de control concretos, con arquitectura y archivos de pesos con fuente. Official BF16 safetensors: 134,54 GiB–136,49 GiB a 8192 tokens, 1 secuencia, KV FP16, vllm.

Este resultado es una estimación, no una traza medida.No verificadoPesos con archivo

Editor y procedencia

ProveedorMeta
Hugging Facemeta-llama/Llama-3.3-70B-Instruct
Revision6f6073b423013f6a7d4d9f39144961bfbfbc386b
Parámetros totales70.553.706.496
Capas80
Cabezas de consulta64
Cabezas KV8 (gqa)
Dimensión de cabeza128
Contexto documentado131.072
Integridadcomplete · full

Capas de memoria de esta estimación

Los bytes del archivo, el KV bruto, los extras del motor y la demanda total van aparte. No es una traza de ejecución.

Weight artifact: 131,42 GiB (141.107.497.872 bytes)
Raw KV cache: 2,50 GiB (2.684.354.560 bytes)
Engine extras / workspace: 0,63 GiB–2,58 GiB
Total estimated demand: 134,54 GiB–136,49 GiB

Archivos contados

Cuantización	Archivos contados	Bytes	Motor	Evidencia
Official BF16 safetensors bf16 Calculadora: Official BF16 safetensors	30 fragmentos safetensors Bytes seleccionados en total: 141.107.497.872 (131,42 GiB / 141,11 GB) Primer fragmento: model-00001-of-00030.safetensors Último fragmento: model-00030-of-00030.safetensors Ver los 30 archivos de fragmentos `model-00001-of-00030.safetensors` `model-00002-of-00030.safetensors` `model-00003-of-00030.safetensors` `model-00004-of-00030.safetensors` `model-00005-of-00030.safetensors` `model-00006-of-00030.safetensors` `model-00007-of-00030.safetensors` `model-00008-of-00030.safetensors` `model-00009-of-00030.safetensors` `model-00010-of-00030.safetensors` `model-00011-of-00030.safetensors` `model-00012-of-00030.safetensors` `model-00013-of-00030.safetensors` `model-00014-of-00030.safetensors` `model-00015-of-00030.safetensors` `model-00016-of-00030.safetensors` `model-00017-of-00030.safetensors` `model-00018-of-00030.safetensors` `model-00019-of-00030.safetensors` `model-00020-of-00030.safetensors` `model-00021-of-00030.safetensors` `model-00022-of-00030.safetensors` `model-00023-of-00030.safetensors` `model-00024-of-00030.safetensors` `model-00025-of-00030.safetensors` `model-00026-of-00030.safetensors` `model-00027-of-00030.safetensors` `model-00028-of-00030.safetensors` `model-00029-of-00030.safetensors` `model-00030-of-00030.safetensors`	141.107.497.872 (131,42 GiB / 141,11 GB)	`vllm, sglang, unspecified`	`file-metadata`
INT4 theoretical	No hay archivo publicado	35.276.853.248 (Las filas teóricas no son artefactos descargables.)	—	theoretical

Memoria por cuantización y contexto

Secuencias concurrentes = 1. El KV es FP16 por defecto. El intervalo incluye extras de runtime documentados para el motor indicado. Las cifras usan el mismo núcleo que la calculadora interactiva.

Cuantización	2048 tokens	8192 tokens	32.768 tokens
Official BF16 safetensors	132,67 GiB–134,56 GiB	134,54 GiB–136,49 GiB	142,04 GiB–144,22 GiB
INT4 theoretical Las filas teóricas no son artefactos descargables.	33,60 GiB–43,62 GiB	35,48 GiB–45,97 GiB	42,98 GiB–55,20 GiB

Caché KV (datos brutos)

El KV bruto de GQA/MHA es 2 × capas × kvHeads × headDim × tokens × secuencias × bytes por elemento. Esta página usa KV heads (8), no query heads (64).

8,192 tokens, 1 sequence, FP16: 2.684.354.560 bytes (2,5000 GiB)
32,768 tokens: 10.737.418.240 bytes (10,00 GiB)

Abrir la calculadora con este modelo

Páginas relacionadas

Fuentes

Llama 3.3 70B Instruct model card (Meta) — Context length 128k, GQA, Llama 3.3 Community License. Parameters as printed on the card.
Meta llama-models sku_list.py (architecture arguments) — arch_args dim=8192, n_layers=80, n_heads=64, n_kv_heads=8. head_dim is dim ÷ n_heads = 128 (Meta's reference model derives it that way; sku_list.py has no head_dim key). The Hugging Face config.json is gated (HTTP 401), so it was not read.
Hugging Face API — sha 6f6073b423013f6a7d4d9f39144961bfbfbc386b; gated manual; safetensors.total=70553706496; 30 safetensors siblings.
Cross-check only: GGUF header of a community conversion (not an official source) — Header read with an HTTP range request on 2026-10-18; it agrees with Meta's numbers: block_count 80, head_count 64, head_count_kv 8, embedding_length 8192, context_length 131072, key_length 128. The catalog values above come from Meta, not from this file.
Hugging Face model page — Gated (manual). Llama 3.3 Community License applies; this page states facts only and does not redistribute the weights.

Hipótesis que afectan al resultado

El contexto pedido cabe en la ventana nativa de 131072 tokens.
La estimación residente usa el total de parámetros, incluidos expertos MoE inactivos.
Los bytes de pesos salen solo de los archivos elegidos, no de todas las cuantizaciones del repositorio.
El tamaño de descarga no es la memoria GPU de pico. El diseño en ejecución y la KV van aparte.
Los bytes de pesos provienen de 30 fragmentos safetensors publicados que suman 141107497872 bytes.
El contexto es el número de tokens en caché por secuencia (entrada más generación reservada).
Las secuencias concurrentes comparten una copia del modelo; los pesos no se multiplican por el número de secuencias.
El tipo de KV es independiente de la cuantización de pesos salvo que lo cambie.

Calculadora

Cargando la instantánea del catálogo…

Elige primero un modelo y después revisa el equipo.

Modelo

Mostrar modelos históricos

Cuantización

Tipo de dispositivo

Hardware

Carga

La longitud de contexto afecta sobre todo a la memoria de la caché KV.

Ajustes avanzados

Ejecución

Motor y tipo de caché KV de esta estimación.

MotorTipo de caché KVDtype de estado recurrente / conv Incluir estimaciones teóricas (experto) Permitir un sustituto si el filtro no tiene coincidencia

Carga

Escenario de sobrecarga y el espacio de prellenado.

Escenario de sobrecoste en tiempo de ejecución Incluir un espacio de trabajo de prefill más pesado

Topología

Cómo se reparte el modelo entre dispositivos. La memoria no se suma.

DesplieguePartición intra-réplicaNúmero de dispositivos

El número de réplicas es avanzado. La cantidad son nodos o GPUs, no réplicas.

Grupos de réplicasDispositivos por réplica

Presupuesto

Reserva del sistema y margen de seguridad. Un número vacío conserva el valor anterior.

Reserva para sistema / pantalla

GiB (2^30 bytes)

El presupuesto ya descuenta la reserva del sistemaMargen de seguridad extra

Bits efectivos por parámetro (personalizado)Unidad de visualización

Modelo personalizado

Importe una config o escriba la arquitectura. No se escanea nada hasta importar.

Importar config.json local

Se analiza en el navegador. El archivo no se sube.

Repo público de Hugging FaceRevisión

Solo huggingface.co, solo config.json, sin token. Se rechazan repos privados.

Parámetros totalesParámetros activosCapasCabezas de consultaCabezas KVDimensión de cabeza

Busque o elija un modelo del catálogo para ver la VRAM necesaria de un LLM en local.

Busque o elija un modelo del catálogo para ver la VRAM necesaria de un LLM en local.