NPU vs GPU: qué son, en qué se diferencian y cuál necesitas según lo que programes

Hay una nueva sigla en las especificaciones de casi cualquier portátil o sobremesa que se vende hoy: NPU. Intel la llama NPU, para Apple es la Neural Engine (más en su línea marketiniana), Qualcomm las denomina Hexagon NPU (un poco fantasmas), AMD también NPU… nombres distintos para el mismo concepto. Y si no sabes muy bien qué hace ni si te importa tenerla, no eres el único.

La respuesta corta es que es una unidad de proceso especializada en tareas de inteligencia artificial, sobre todo inferencia local de modelos. Pero la respuesta útil, la que te ayuda a decidir qué hardware comprar o qué arquitectura usar en tu próximo proyecto, es bastante más interesante.

Vamos por partes...

¿Cómo llegamos hasta aquí? De la CPU a la GPU y ahora a la NPU

Durante décadas, la CPU (Central Processing Unit) lo hacía todo. Es el cerebro del ordenador: versátil, inteligente, capaz de gestionar cualquier tipo de tarea. Pero es como un cirujano de precisión: muy bueno en tareas complejas y secuenciales, no tan eficiente cuando hay que hacer miles de operaciones simples a la vez.

Las GPUs (Graphics Processing Unit) nacieron para renderizar gráficos, que es básicamente eso: millones de operaciones paralelas y sencillas. Cuando llegó el boom del Deep Learning (redes neuronales profundas, sobre 2012, con AlexNet), los investigadores descubrieron que ese mismo perfil (muchos núcleos, mucha memoria de ancho de banda) era perfecto para entrenar redes neuronales. La GPU pasó de pintar píxeles a entrenar modelos. NVIDIA lo vio antes que nadie y ahí está: con un monopolio de facto.

Las GPUs son potentes pero "hambrientas": cuestan mucho dinero, consumen mucha energía y no encajan bien en un portátil (nada que ver con las de un ordenador de escritorio). Así que los fabricantes de chips empezaron a meter dentro del propio SoC (Sytem on a Chip, que integra CPU, memoria y controladores para un ordenador en una sola oblea) un bloque dedicado exclusivamente a operaciones matriciales de IA, más eficiente en consumo que una GPU para ese trabajo concreto. Eso es la NPU (Neural Processing Unit).

Un poco de historia: Apple fue la primera en integrar una unidad de este tipo en un chip de consumo masivo, con el Neural Engine del A11 Bionic en 2017 (para el iPhone X) y luego en sus ordenadores. Tardaron años en tener competencia real en el mundo PC.

Los nombres cambian según quién la fabrica, pero el concepto es el mismo:

• Apple → Neural Engine (chips serie M y A)
• Intel → NPU (Core Ultra, serie Meteor Lake en adelante)
• AMD → NPU (Ryzen AI, integrada en la arquitectura Phoenix y Strix)
• Qualcomm → Hexagon NPU (Snapdragon X Elite/Plus)
• MediaTek → APU (en sus SoCs para móviles y algunos portátiles)

CPU, GPU y NPU: qué hace cada una y cuándo destaca

Antes de decidir qué necesitas, conviene tener claro el perfil de cada una:

La clave está en esa última fila. La NPU no la compras aparte: viene de serie en los procesadores actuales. No compites entre "¿GPU o NPU?", sino entre "¿GPU dedicada además de la NPU integrada, o solo con lo que ya trae el chip?"

¿Qué procesadores llevan NPU ahora mismo y con cuánta potencia?

La métrica estándar para medir la potencia de una NPU son los TOPS (Tera/Trillion Operations Per Second), o sea, cuántos billones de los nuestros (10^12) de operaciones puede ejecutar por segundo 😲

Obviamente, cuantos más TOPS, más carga de IA puede mover sin tirar de CPU o GPU.

Microsoft estableció el listón de 40 TOPS para certificar un equipo como Copilot+ PC, que es básicamente el sello de "este equipo está preparado para IA local". Aquí tienes el panorama actual (que puede haber variado según cuando leas esto):

• Qualcomm Snapdragon X Elite → ~45 TOPS (NPU Hexagon). El primero en cumplir Copilot+ con margen. Muy eficiente en consumo. Han anunciado hace poco el Snapdragon X2 Elite con una NPU que llega hasta los 80 TOPS, casi duplicando la generación anterior.
• Apple M4 → ~38 TOPS en el Neural Engine (en chips M4 Pro/Max el rendimiento real sube por el mayor ancho de banda de memoria). En el ecosistema Apple, el rendimiento real en inferencia es excepcional.
• AMD Ryzen AI 300 (Strix Point) → hasta 50 TOPS en NPU. El Ryzen AI 9 HX 375 alcanza 55 TOPS.
• Intel Core Ultra 200 (Arrow Lake/Lunar Lake) → entre 40 y 48 TOPS según modelo. Lunar Lake especialmente eficiente.
• Intel Core Ultra Series 3 (CES 2026) → primer procesador fabricado en Intel 18A, con NPU integrada y enfocado en IA en el borde (edge AI), con unos 60-65 TOPS.
• AMD Ryzen con NPU para escritorio (2026) → AMD anunció en MWC 2026 los primeros Ryzen de escritorio con NPU integrada y 50 TOPS, expandiendo el mercado más allá de portátiles.

¿Para qué puedo usar la NPU como desarrollador hoy?

Aquí viene el golpe de realidad: el ecosistema todavía está madurando. Lo cual quiere decir que los usos todavía son limitados, pero hay casos de uso reales...

Lo que funciona bien hoy:

• Inferencia local de LLMs pequeños: modelos como Phi-3, Mistral 7B o Llama 3.2 en versiones cuantizadas corren razonablemente bien descargando trabajo en la NPU. Herramientas como ONNX Runtime de Microsoft o llama.cpp ya tienen backends que aprovechan la NPU en Windows (via DirectML) y en Apple Silicon de forma nativa. Pero generalmente irán peor que en una GPU dedicada de la serie RTX de NVidia por ejemplo. Si tu objetivo es hacer inferencia de modelos en local te compensa más comprar un PC sin NPU e invertir en una GPU potente y memoria RAM rápida (DDR5 a 6000MHz o más) para descargar algunas cosas que no quepa en la GPU.
• Windows ML y DirectML: en entornos Windows, puedes acceder a la NPU a través de DirectML o del nuevo Windows ML API, sin ensamblador ni drivers exóticos.
• Core ML en Apple: en macOS/iOS, Core ML despacha automáticamente la inferencia al Neural Engine si el modelo es compatible. Muy transparente para el desarrollador.
• Funciones del sistema en Copilot+ PC: subtítulos en tiempo real, traducción local, Live Captions, búsqueda semántica en Windows, quitar el fondo de tu webcam, mantener la mirada… todo esto usa la NPU por debajo. Si desarrollas apps integradas con el sistema, puedes aprovecharlo, o si eres usuario de estas capacidades, pues también.
• Procesamiento de audio/voz: modelos tipo Whisper en versión optimizada para NPU funcionan bien para transcripción local con bajo consumo.

Lo que todavía hace mejor la GPU:

• Entrenar cualquier modelo, aunque sea pequeño.
• Inferencia de modelos grandes (13B parámetros en adelante sin cuantizar mucho).
• Cualquier cosa con CUDA: el ecosistema NVIDIA sigue siendo imbatible si necesitas el máximo rendimiento en IA, y esta pieza de software es clave en su monopolio.

¿Te interesa tener una NPU? Depende de lo que programes

Vamos directos al grano:

Sí te interesa (o ya la tienes sin saberlo) si:

• Trabajas con inferencia local y quieres que tu portátil no se caliente ni vacíe la batería.
• Desarrollas apps para Windows 11 o macOS/iOS que usen modelos ligeros en el dispositivo del usuario.
• Quieres explorar edge AI: asistentes locales, procesamiento de voz, análisis de imagen sin cloud en dispositivos del "borde".
• Tu equipo es de 2024 en adelante con Intel Core Ultra, Ryzen AI, Snapdragon X o Apple M-series: ya la tienes, solo hay que usarla.

La GPU sigue siendo mejor si:

• Afinas modelos.
• Trabajas con modelos de más de 7-13B parámetros.
• Tu stack es PyTorch + CUDA y no quieres salirte del camino trillado.
• Haces rendering, simulación física o cualquier otra tarea de cómputo paralelo no-IA.

El escenario más recomendable sería tener ambas: un portátil con NPU integrada para el trabajo del día a día y la inferencia rápida, y acceso a una GPU dedicada cuando toca afinar, trabajar con modelos grandes u otras tareas de cómputo paralelo masivo. Se complementan bien, pero es un dinero, claro.

La NPU no va a reemplazar a la GPU en el trabajo serio de IA. Pero sí cambia lo que puedes hacer offline, en el portátil, sin tirar de la nube ni de una tarjeta de 800 euros (o mucho más). Y eso, dependiendo de lo que hagas, puede ser bastante valioso.