Mini PCs para IA Local: Guía de Hardware, NPU vs iGPU, OCuLink y Cálculo de VRAM para LLMs

A la hora de comprar un Mini PC para ejecutar Inteligencia Artificial en casa, los criterios tradicionales de ofimática (solo fijarse en los GHz del procesador) quedan obsoletos. En inferencia de modelos LLM y visión artificial, el factor determinante es el ancho de banda de memoria (Memory Bandwidth), la capacidad de VRAM y la aceleración por hardware dedicada (NPU / GPU).

En este artículo desglosamos cómo evaluar el hardware adecuado para no sufrir cuellos de botella al cargar modelos locales.

---

1. El Cuello de Botella de los LLMs: Ancho de Banda de Memoria

Un modelo de lenguaje requiere leer todos sus parámetros en memoria por cada token que genera. Esto significa que la velocidad de generación (tokens por segundo) está limitada directamente por la velocidad de la memoria RAM:

• DDR4 (3200 MT/s): Ancho de banda de ~25 GB/s → Velocidad modesta (~8-10 tokens/s en modelos 7B).
• DDR5 Dual Channel (5600 MT/s): Ancho de banda de ~45 GB/s → Generación fluida (~25-35 tokens/s en modelos 7B/8B).
• LPDDR5X (7500 MT/s): Ancho de banda superior a 60 GB/s → Inferencia ultrarrápida en formatos compactos.

---

2. NPU vs iGPU vs Tarjeta Gráfica Dedicada por OCuLink

• NPU (Neural Processing Unit): Diseñada para tareas continuas de bajo consumo (Whisper, desenfoque de fondo, detección de presencia) con un gasto de apenas 2-5W.
• iGPU (Radeon 780M / Intel Arc): Utiliza la memoria RAM del sistema compartida. Excelente para modelos de hasta 14B parámetros sin incurrir en costes de gráficas dedicadas.
• eGPU por OCuLink (PCIe 4.0 x4 / x16 - 64 Gbps): A diferencia de Thunderbolt 4 (limitado a 32 Gbps y con sobrecarga de protocolo), el puerto OCuLink conecta directamente la tarjeta gráfica al bus PCIe de la placa base con cero latencia añadida. Permite conectar GPUs como la RTX 4060 Ti 16GB o RTX 4070 para ejecutar modelos pesados de 32B o 70B parámetros a máxima velocidad.

---

3. Tabla de Memoria Necesaria según el Modelo (Cuantización Q4_K_M)

Parámetros del Modelo	RAM / VRAM Mínima	Hardware Recomendado	Caso de Uso
3B - 4B (Phi-3 / Llama 3.2)	8 GB	Mini PC Intel N100 / Ryzen 5	Automatizaciones simples y respuestas breves
7B - 8B (Qwen 2.5 / DeepSeek R1)	16 GB	Mini PC Ryzen 7 8845HS (32GB)	Control domótico avanzado y charla natural
14B (Qwen 2.5 14B)	24 GB - 32 GB	Mini PC Ryzen 9 8945HS (32GB/64GB)	Razonamiento profundo y gestión multiagente
32B - 70B (DeepSeek / Llama 3.3)	32 GB - 64 GB VRAM	Mini PC con eGPU OCuLink / Workstation	Homelab entusiasta y agentes autónomos complejos

---

4. Recomendación Final de Compra

Puedes explorar todos los modelos analizados en nuestra sección dedicada de Mini PCs y Servidores para IA Local y Domótica:

1. La Opción Más Equilibrada y Silenciosa: El Beelink SER8 Ryzen 7 ofrece 32GB DDR5 de serie, NPU integrada y un funcionamiento acústico de solo 32dB.
2. La Máxima Potencia Compacta: El GEEKOM AE8 / A8 Ryzen 9 con NVMe de alta velocidad y NPU para procesamiento intensivo de modelos locales.
3. La Mejor Opción para Futura Expansión: El GMKtec M6 / K8 con soporte DDR5 y ranuras de expansión para cuando desees conectar aceleración gráfica externa.
4. SBCs y Edge AI Modular: Para cargas ligeras en bajo consumo (<15W), la combinación de Raspberry Pi 5 con AI HAT+ (Hailo-8) o el ZimaBlade x86 ofrecen una relación rendimiento/vatio inigualable.

---

📥 Descarga el Documento Técnico Oficial:
Descargar Manual de Arquitectura de IA Local en el Hogar (PDF)