Skip to content
AI Compute Radar

Guía de hardware

Mejores modelos locales para
Mac mini M5 Pro 24GB

◇ Estimado— Estimado: calculado a partir de nuestro catálogo curado de modelos y hardware, no es una lectura en vivo.

También en:English

Las fichas de cada modelo y el buscador interactivo están en inglés; las cifras son las mismas.

Especificaciones

Memoria
24 GB
Tipo de memoria
Unificada
Ancho de banda
307 GB/s
Clase
Apple unificada 24 GB

La respuesta corta

gpt-oss 20B

Pesos ~10,8 GB (Q4_K_M), contexto ~0,2 GB con 8K tokens, entorno de ejecución ~1,2 GB. Tus 24 GB dejan ~15,6 GB utilizables: macOS solo deja que la GPU reserve unos dos tercios de la memoria unificada en Macs de este tamaño; planificamos con un 65 % conservador.

GGUF (Q4_K_M) ↗ (External link)Original (safetensors) ↗ (External link)Ollama ↗ (External link)

Etiquetas de ajuste

  • Ajuste excelente
  • Buen ajuste
  • Ajuste justo
  • Requiere descarga a RAM
  • No recomendado

Cada modelo de nuestra selección en este hardware

Longitud de contexto: 8K tokens · f16 (predeterminado)

Ajuste de modelos en este hardware
ModeloAjusteMemoria est.Memoria estimada = pesos + contexto + entorno
Qwen3 14BAlibaba Qwen · 14.8B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Ajuste excelente~10,8 GB8,4 + 1,3 + 1,1
Gemma 4 12BGoogle · 12B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Ajuste excelente~8,5 GB6,6 + 0,8 + 1,0
Nemotron Nano 9B v2NVIDIA · 8.9B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ajuste excelente~8,9 GB6,1 + 1,8 + 1,0
Ornith 1.5 9BOrnith AI · 9.7B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Ajuste excelente~6,7 GB5,4 + 0,3 + 1,0
Granite 4.2 8BIBM · 8.8B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Ajuste excelente~7,3 GB5,0 + 1,3 + 1,0
LFM2.5 8B-A1BLiquid AI · 8.5B MoE · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Ajuste excelente~5,9 GB4,8 + 0,1 + 1,0
Qwen3 8BAlibaba Qwen · 8.2B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Ajuste excelente~6,8 GB4,7 + 1,1 + 1,0
Gemma 4 E4BGoogle · 8B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Ajuste excelente~5,7 GB4,6 + 0,1 + 1,0
Ling 3.0 TinyInclusionAI · 7.9B MoE · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ajuste excelente~5,7 GB4,5 + 0,2 + 1,0
Qwen3 4BAlibaba Qwen · 4B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Ajuste excelente~4,3 GB2,3 + 1,1 + 0,9
Phi-4 MiniMicrosoft · 3.8B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Ajuste excelente~4,2 GB2,3 + 1,0 + 0,9
Granite 4.2 3BIBM · 3.7B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Ajuste excelente~3,6 GB2,1 + 0,6 + 0,9
LFM2.5 2.6BLiquid AI · 2.7B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Ajuste excelente~2,6 GB1,6 + 0,1 + 0,9
LFM2.5 1.2BLiquid AI · 1.2B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Ajuste excelente~1,7 GB0,7 + 0,1 + 0,9
Qwen3 0.6BAlibaba Qwen · 0.6B · Q8_0GGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Ajuste excelente~2,3 GB0,6 + 0,9 + 0,9
gpt-oss 20BOpenAI · 20.9B MoE · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Buen ajuste~12,2 GB10,8 + 0,2 + 1,2
Qwen3.8 2.4T-A95BAlibaba Qwen · 2.4T-A95B · IQ4_XSGGUF ↗ (External link)Original ↗ (External link)No recomendado~1259,0 GB1220,8 + 0,7 + 37,5
DeepSeek-V4-ProDeepSeek · 1650B MoE · Q4_KGGUF ↗ (External link)Original ↗ (External link)No recomendado~816,4 GB791,3 + 0,5 + 24,6
GLM-5.3Zhipu AI · 753B · Q4_KGGUF ↗ (External link)Original ↗ (External link)No recomendado~449,8 GB435,2 + 0,7 + 13,9
GLM-5.2Zhipu AI · 753B MoE · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)No recomendado~448,3 GB433,8 + 0,7 + 13,9
DeepSeek-R1DeepSeek · 685B MoE · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)No recomendado~389,4 GB376,7 + 0,5 + 12,2
Ornith 1.5 397BOrnith AI · 403B MoE · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)No recomendado~235,4 GB227,5 + 0,2 + 7,7
GLM-5.3-FlashZhipu AI · 321B · Q4_KGGUF ↗ (External link)Original ↗ (External link)No recomendado~192,5 GB186,0 + 0,1 + 6,4
Hy3Tencent · 299B MoE · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)No recomendado~174,6 GB166,3 + 2,5 + 5,8
DeepSeek-V4-FlashDeepSeek · 304B MoE · Q4_KGGUF ↗ (External link)Original ↗ (External link)No recomendado~150,0 GB144,4 + 0,4 + 5,2
Qwen3.8 Flash-NextAlibaba Qwen · 180B MoE · Q4_KGGUF ↗ (External link)Original ↗ (External link)No recomendado~107,8 GB103,7 + 0,2 + 4,0
Ling 3.0 FlashInclusionAI · 127B MoE · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)No recomendado~73,4 GB70,1 + 0,4 + 3,0
GLM-4.5-AirZhipu AI · 110B MoE · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)No recomendado~72,3 GB68,0 + 1,4 + 2,9
gpt-oss 120BOpenAI · 117B MoE · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)No recomendado~61,4 GB58,5 + 0,3 + 2,6
Qwen3-Coder NextAlibaba Qwen · 79.7B MoE · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)No recomendado~48,1 GB45,1 + 0,8 + 2,2
Llama 3.3 70BMeta · 70.6B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)No recomendado~44,1 GB39,6 + 2,5 + 2,0
Qwen AgentWorld 35B-A3BAlibaba Qwen · 34.7B MoE · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)No recomendado~22,2 GB20,6 + 0,2 + 1,5
Ornith 1.5 35B-A3BOrnith AI · 36B MoE · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)No recomendado~21,8 GB20,2 + 0,2 + 1,5
KAT-Coder V2.5Kwaipilot · 34.7B MoE · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)No recomendado~21,5 GB19,9 + 0,2 + 1,4
Qwen3 32BAlibaba Qwen · 32.8B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)No recomendado~21,8 GB18,4 + 2,0 + 1,4
Qwen3-Coder 30B-A3BAlibaba Qwen · 30.5B MoE · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)No recomendado~19,4 GB17,3 + 0,8 + 1,4
Gemma 4 31BGoogle · 31.3B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)No recomendado~20,5 GB17,1 + 2,0 + 1,4
GLM-4.7-FlashZhipu AI · 31.2B MoE · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)No recomendado~18,9 GB17,1 + 0,4 + 1,4
Granite 4.2 30BIBM · 29.3B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)No recomendado~19,8 GB16,5 + 2,0 + 1,3
Gemma 4 26B-A4BGoogle · 25.8B MoE · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)No recomendado~17,6 GB15,8 + 0,5 + 1,3
Gemma 3 27BGoogle · 27.4B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)No recomendado~17,7 GB15,4 + 1,0 + 1,3
Qwen3.8 27BAlibaba Qwen · 27.8B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)No recomendado~17,1 GB15,3 + 0,5 + 1,3
Mistral Small 3.2Mistral AI · 24B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)No recomendado~15,8 GB13,3 + 1,3 + 1,2
Devstral Small 2 24BMistral AI · 24B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)No recomendado~15,8 GB13,3 + 1,3 + 1,2
Llama 3.1 8BMeta · 8B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Desconocido—
Llama 3.2 3BMeta · 3B · Q4_K_MGGUF ↗ (External link)Original ↗ (External link)Ollama ↗ (External link)Desconocido—

Todas las cifras de memoria son estimaciones: tamaño medido del archivo cuantizado + memoria de contexto calculada + sobrecarga del entorno de ejecución, con un margen de seguridad del 12 % sobre tu hardware. El uso real varía según la versión del entorno y la configuración.

GGUF es el formato cuantizado de un solo archivo que cargan los entornos locales (Ollama, LM Studio, llama.cpp); nuestras cifras de memoria se miden a partir del archivo GGUF enlazado. El repositorio original contiene safetensors de precisión completa: una descarga mucho mayor, pensada para GPU con mucha más memoria.

Misma memoria, distinta velocidad

Estas tarjetas cargan los mismos modelos; la diferencia es lo rápido que los leen. El ancho de banda de memoria marca el techo de la generación de tokens, así que decide los tokens por segundo, no qué modelos caben.

Misma memoria, distinta velocidad
TarjetaAncho de bandaVelocidad relativa
Mac mini M5 Pro 24GB(este equipo)307 GB/s1,00×
RTX 3090936 GB/s3,05×
RTX 40901008 GB/s3,28×
RX 7900 XTX960 GB/s3,13×
RTX 3090 Ti1008 GB/s3,28×

La velocidad relativa compara solo el ancho de banda de memoria. El rendimiento real también depende del entorno de ejecución, de la cuantización y de cuánto del modelo está en la VRAM.

Cuando este hardware no basta

Hazte con el término medio.

DGX Spark y los sistemas de la clase GB10 ponen 128 GB de memoria unificada sobre tu mesa. Tiene sentido cuando los modelos locales grandes son tu rutina diaria.

Perfil de DGX Spark (en inglés) →

Ruta C — Cómputo flexible

Alquila el pico.

¿Un trabajo pesado de vez en cuando? Alquila una H100 por una tarde en lugar de comprar hardware que pasa parado el resto del año.

Precios de alquiler de GPU por hora →