LLM Hardware Tool VRAM
VRAM
Calculator.
Selecciona un modelo de lenguaje, cuantización y longitud de contexto para calcular exactamente cuánta VRAM necesita tu GPU.
VRAM Requerida
5.19GB
Desglose
Pesos del modelo4.19 GB
KV Cache (ctx 4,096)0.50 GB
Overhead runtime0.50 GB
Total estimado5.19 GB
GPU Recomendada
check_circle
Mínimo recomendado: RTX 4060
Estimación basada en Ollama / llama.cpp. Resultados pueden variar según framework.
article
¿Nuevo en LLMs locales?
Lee nuestra guía completa sobre cómo correr modelos en tu PC con Ollama.
Modelo
DeepSeek-R1 7Bctx 131K
7Bparams
DeepSeek-R1 8Bctx 131K
8Bparams
DeepSeek-R1 14Bctx 131K
14Bparams
DeepSeek-R1 32Bctx 131K
32Bparams
DeepSeek-R1 70Bctx 131K
70Bparams
Gemma 2 2Bctx 8K
2.6Bparams
Gemma 2 9Bctx 8K
9.2Bparams
Gemma 2 27Bctx 8K
27Bparams
Llama 3.2 1Bctx 131K
1Bparams
Llama 3.2 3Bctx 131K
3Bparams
Llama 3.1 8Bctx 131K
8Bparams
Llama 3.1 70Bctx 131K
70Bparams
Llama 3.1 405Bctx 131K
405Bparams
Mistral 7B v0.3ctx 33K
7Bparams
Mistral Nemo 12Bctx 128K
12Bparams
Mixtral 8x7Bctx 33K
46.7Bparams
Phi-3 Mini 3.8Bctx 128K
3.8Bparams
Phi-4 14Bctx 16K
14Bparams
Phi-3 Medium 14Bctx 128K
14Bparams
Qwen2.5 7Bctx 131K
7Bparams
Qwen2.5 14Bctx 131K
14Bparams
Qwen2.5 32Bctx 131K
32Bparams
Qwen2.5 72Bctx 131K
72Bparams
Cuantización
F32
starstarstarstarstar
Máxima calidad. Solo para research.F16
starstarstarstarstar
Sin pérdida notable. Fine-tuning e inferencia.Q8
starstarstarstarstar_border
Casi idéntica a F16, mitad de VRAM.Q6
starstarstarstarstar_border
Pérdida mínima. Buen balance.Q5
starstarstarstar_borderstar_border
Recomendada si tienes VRAM suficiente.PopularQ4
starstarstarstar_borderstar_border
La más usada. Mejor balance VRAM/calidad.Q3
starstarstar_borderstar_borderstar_border
Pérdida notable. Usa solo si necesario.Q2
starstar_borderstar_borderstar_borderstar_border
Pérdida severa. Último recurso.SeleccionadaQ4_K_M — Popular
Bits/peso4.5
CalidadAceptable