Skip to content
AI Compute Radar

Guía de hardware

Mejores modelos locales para
RTX 5060 Ti 16GB

◇ Estimado— Estimado: calculado a partir de nuestro catálogo curado de modelos y hardware, no es una lectura en vivo.

También en:English

Las fichas de cada modelo y el buscador interactivo están en inglés; las cifras son las mismas.

Especificaciones

Memoria
16 GB
Tipo de memoria
VRAM dedicada
Ancho de banda
448 GB/s
Clase
Económica actual 16 GB

La respuesta corta

gpt-oss 20B

Pesos ~10,8 GB (Q4_K_M), contexto ~0,2 GB con 8K tokens, entorno de ejecución ~1,2 GB. Tus 16 GB dejan ~14,1 GB utilizables tras un margen de seguridad del 12 %.

GGUF (Q4_K_M) ↗ (External link)Original (safetensors) ↗ (External link)Ollama ↗ (External link)

Etiquetas de ajuste

  • Ajuste excelente
  • Buen ajuste
  • Ajuste justo
  • Requiere descarga a RAM
  • No recomendado

Cada modelo de nuestra selección en este hardware

Longitud de contexto: 8K tokens · f16 (predeterminado)

Ajuste de modelos en este hardware
ModeloAjusteMemoria est.Memoria estimada = pesos + contexto + entorno
Gemma 4 12BGoogle · 12B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Ajuste excelente~8,5 GB6,6 + 0,8 + 1,0
Nemotron Nano 9B v2NVIDIA · 8.9B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ajuste excelente~8,9 GB6,1 + 1,8 + 1,0
Ornith 1.5 9BOrnith AI · 9.7B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Ajuste excelente~6,7 GB5,4 + 0,3 + 1,0
Granite 4.2 8BIBM · 8.8B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Ajuste excelente~7,3 GB5,0 + 1,3 + 1,0
LFM2.5 8B-A1BLiquid AI · 8.5B MoE · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Ajuste excelente~5,9 GB4,8 + 0,1 + 1,0
Qwen3 8BAlibaba Qwen · 8.2B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Ajuste excelente~6,8 GB4,7 + 1,1 + 1,0
Gemma 4 E4BGoogle · 8B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Ajuste excelente~5,7 GB4,6 + 0,1 + 1,0
Ling 3.0 TinyInclusionAI · 7.9B MoE · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ajuste excelente~5,7 GB4,5 + 0,2 + 1,0
Qwen3 4BAlibaba Qwen · 4B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Ajuste excelente~4,3 GB2,3 + 1,1 + 0,9
Phi-4 MiniMicrosoft · 3.8B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Ajuste excelente~4,2 GB2,3 + 1,0 + 0,9
Granite 4.2 3BIBM · 3.7B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Ajuste excelente~3,6 GB2,1 + 0,6 + 0,9
LFM2.5 2.6BLiquid AI · 2.7B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Ajuste excelente~2,6 GB1,6 + 0,1 + 0,9
LFM2.5 1.2BLiquid AI · 1.2B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Ajuste excelente~1,7 GB0,7 + 0,1 + 0,9
Qwen3 0.6BAlibaba Qwen · 0.6B · Q8_0GGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Ajuste excelente~2,3 GB0,6 + 0,9 + 0,9
gpt-oss 20BOpenAI · 20.9B MoE · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Buen ajuste~12,2 GB10,8 + 0,2 + 1,2
Qwen3 14BAlibaba Qwen · 14.8B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Buen ajuste~10,8 GB8,4 + 1,3 + 1,1
Qwen AgentWorld 35B-A3BAlibaba Qwen · 34.7B MoE · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Requiere descarga a RAM~22,2 GB20,6 + 0,2 + 1,5
Ornith 1.5 35B-A3BOrnith AI · 36B MoE · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Requiere descarga a RAM~21,8 GB20,2 + 0,2 + 1,5
KAT-Coder V2.5Kwaipilot · 34.7B MoE · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Requiere descarga a RAM~21,5 GB19,9 + 0,2 + 1,4
Qwen3 32BAlibaba Qwen · 32.8B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Requiere descarga a RAM~21,8 GB18,4 + 2,0 + 1,4
Qwen3-Coder 30B-A3BAlibaba Qwen · 30.5B MoE · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Requiere descarga a RAM~19,4 GB17,3 + 0,8 + 1,4
Gemma 4 31BGoogle · 31.3B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Requiere descarga a RAM~20,5 GB17,1 + 2,0 + 1,4
GLM-4.7-FlashZhipu AI · 31.2B MoE · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Requiere descarga a RAM~18,9 GB17,1 + 0,4 + 1,4
Granite 4.2 30BIBM · 29.3B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Requiere descarga a RAM~19,8 GB16,5 + 2,0 + 1,3
Gemma 4 26B-A4BGoogle · 25.8B MoE · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Requiere descarga a RAM~17,6 GB15,8 + 0,5 + 1,3
Gemma 3 27BGoogle · 27.4B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Requiere descarga a RAM~17,7 GB15,4 + 1,0 + 1,3
Qwen3.8 27BAlibaba Qwen · 27.8B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Requiere descarga a RAM~17,1 GB15,3 + 0,5 + 1,3
Mistral Small 3.2Mistral AI · 24B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Requiere descarga a RAM~15,8 GB13,3 + 1,3 + 1,2
Devstral Small 2 24BMistral AI · 24B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Requiere descarga a RAM~15,8 GB13,3 + 1,3 + 1,2
Qwen3.8 2.4T-A95BAlibaba Qwen · 2.4T-A95B · IQ4_XSGGUF ↗ (External link)Original ↗ (External link)No recomendado~1259,0 GB1220,8 + 0,7 + 37,5
DeepSeek-V4-ProDeepSeek · 1650B MoE · Q4_KGGUF ↗ (External link)Original ↗ (External link)No recomendado~816,4 GB791,3 + 0,5 + 24,6
GLM-5.3Zhipu AI · 753B · Q4_KGGUF ↗ (External link)Original ↗ (External link)No recomendado~449,8 GB435,2 + 0,7 + 13,9
GLM-5.2Zhipu AI · 753B MoE · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)No recomendado~448,3 GB433,8 + 0,7 + 13,9
DeepSeek-R1DeepSeek · 685B MoE · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)No recomendado~389,4 GB376,7 + 0,5 + 12,2
Ornith 1.5 397BOrnith AI · 403B MoE · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)No recomendado~235,4 GB227,5 + 0,2 + 7,7
GLM-5.3-FlashZhipu AI · 321B · Q4_KGGUF ↗ (External link)Original ↗ (External link)No recomendado~192,5 GB186,0 + 0,1 + 6,4
Hy3Tencent · 299B MoE · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)No recomendado~174,6 GB166,3 + 2,5 + 5,8
DeepSeek-V4-FlashDeepSeek · 304B MoE · Q4_KGGUF ↗ (External link)Original ↗ (External link)No recomendado~150,0 GB144,4 + 0,4 + 5,2
Qwen3.8 Flash-NextAlibaba Qwen · 180B MoE · Q4_KGGUF ↗ (External link)Original ↗ (External link)No recomendado~107,8 GB103,7 + 0,2 + 4,0
Ling 3.0 FlashInclusionAI · 127B MoE · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)No recomendado~73,4 GB70,1 + 0,4 + 3,0
GLM-4.5-AirZhipu AI · 110B MoE · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)No recomendado~72,3 GB68,0 + 1,4 + 2,9
gpt-oss 120BOpenAI · 117B MoE · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)No recomendado~61,4 GB58,5 + 0,3 + 2,6
Qwen3-Coder NextAlibaba Qwen · 79.7B MoE · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)No recomendado~48,1 GB45,1 + 0,8 + 2,2
Llama 3.3 70BMeta · 70.6B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)No recomendado~44,1 GB39,6 + 2,5 + 2,0
Llama 3.1 8BMeta · 8B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Desconocido—
Llama 3.2 3BMeta · 3B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Desconocido—

Todas las cifras de memoria son estimaciones: tamaño medido del archivo cuantizado + memoria de contexto calculada + sobrecarga del entorno de ejecución, con un margen de seguridad del 12 % sobre tu hardware. El uso real varía según la versión del entorno y la configuración.

GGUF es el formato cuantizado de un solo archivo que cargan los entornos locales (Ollama, LM Studio, llama.cpp); nuestras cifras de memoria se miden a partir del archivo GGUF enlazado. El repositorio original contiene safetensors de precisión completa: una descarga mucho mayor, pensada para GPU con mucha más memoria.

Misma memoria, distinta velocidad

Estas tarjetas cargan los mismos modelos; la diferencia es lo rápido que los leen. El ancho de banda de memoria marca el techo de la generación de tokens, así que decide los tokens por segundo, no qué modelos caben.

Misma memoria, distinta velocidad
TarjetaAncho de bandaVelocidad relativa
RTX 5060 Ti 16GB(esta tarjeta)448 GB/s1,00×
RTX 4080716,8 GB/s1,60×
RTX 5080960 GB/s2,14×
RTX 4060 Ti 16GB288 GB/s0,64×
RTX 5070 Ti896 GB/s2,00×
Mac mini M6 16GB153 GB/s0,34×
RTX 4070 Ti Super672 GB/s1,50×
RX 9070 XT640 GB/s1,43×

La velocidad relativa compara solo el ancho de banda de memoria. El rendimiento real también depende del entorno de ejecución, de la cuantización y de cuánto del modelo está en la VRAM.

Cuando este hardware no basta

Hazte con el término medio.

DGX Spark y los sistemas de la clase GB10 ponen 128 GB de memoria unificada sobre tu mesa. Tiene sentido cuando los modelos locales grandes son tu rutina diaria.

Perfil de DGX Spark (en inglés) →

Ruta C — Cómputo flexible

Alquila el pico.

¿Un trabajo pesado de vez en cuando? Alquila una H100 por una tarde en lugar de comprar hardware que pasa parado el resto del año.

Precios de alquiler de GPU por hora →