¿Qué es una NPU? ¿En qué se diferencia de una CPU y una GPU?
¿Qué es una NPU?
Una Unidad de Procesamiento Neuronal (NPU) es una clase de acelerador de hardware especializado construido para cargas de trabajo de inteligencia artificial (IA) y aprendizaje automático (ML). También se conoce como acelerador de IA o procesador de aprendizaje profundo. Una NPU se enfoca en la inferencia de redes neuronales, el entrenamiento y las tareas de visión artificial. Puede ser un chip independiente, un bloque dedicado dentro de un sistema en chip (SoC) o una unidad lógica integrada dentro de una CPU o GPU.
Las arquitecturas de NPU están optimizadas para las matemáticas del aprendizaje profundo: operaciones tensoriales, multiplicaciones de matrices grandes, convoluciones y activaciones elemento a elemento. Logran un rendimiento mucho mayor y un consumo de energía mucho menor que los procesadores de propósito general en estas tareas. Las características de diseño incluyen matrices de muchos núcleos o espaciales, aritmética de baja precisión (INT4, INT8, FP8, FP16), modelos de ejecución de flujo de datos y computación en memoria que minimiza el movimiento de datos entre la memoria y la computación.
En el lado del consumidor, el Neural Engine de Apple en los chips de la serie M y la serie A, la NPU Hexagon de Qualcomm en Snapdragon, la NPU interna de Samsung, la arquitectura Da Vinci de Huawei y la Unidad de Procesamiento Tensorial de Google en los dispositivos Pixel encajan en esta descripción. Los procesadores Meteor Lake de Intel (2023) introdujeron una NPU dedicada con la marca Intel AI Boost, concebida originalmente como una Unidad de Procesamiento de Visión. Los ejemplos de centros de datos incluyen los pods de TPU en la nube de Google, AWS Trainium e Inferentia, y los aceleradores matriciales especializados dentro de las GPU de NVIDIA y AMD. Casi todos los silicios de GPU modernos dedican área de troquel a motores matriciales de baja precisión, pero la etiqueta NPU se reserva para el hardware que está construido desde cero en torno a la computación de redes neuronales.
¿En qué se diferencia una NPU de una CPU y una GPU?
Una unidad central de procesamiento (CPU) es una generalista. Tiene un puñado de núcleos de alto rendimiento, lógica de control sofisticada, jerarquías de caché profundas y archivos de registro amplios diseñados para tareas seriales sensibles a la latencia. Las CPU admiten aritmética de alta precisión (FP64, FP32) y cambio de contexto rápido. Manejan todo, desde el código del sistema operativo hasta hojas de cálculo, pero son ineficientes cuando realizan la misma operación matemática simple en miles de puntos de datos simultáneamente.
Una unidad de procesamiento gráfico (GPU) es una trabajadora paralela. Contiene cientos o miles de unidades de cómputo más pequeñas organizadas para un rendimiento masivo bajo un modelo de Instrucción Única, Datos Múltiples (SIMD). Las GPU sobresalen en sombreado gráfico, simulaciones científicas y las multiplicaciones de matrices utilizadas en el aprendizaje profundo. Las GPU modernas incluyen núcleos tensoriales (NVIDIA) o núcleos matriciales (AMD) que aceleran las operaciones de multiplicación-acumulación de baja precisión, difuminando la línea con las NPU. Sin embargo, una GPU aún debe admitir tuberías gráficas y núcleos paralelos de propósito general, por lo que consume significativamente más energía para una carga de trabajo de IA pura en comparación con una NPU dedicada.
Una NPU es una especialista. Sus unidades de ejecución, rutas de datos y memoria están diseñadas exclusivamente para flujos de datos de redes neuronales. Los patrones de diseño comunes incluyen matrices sistólicas y tejidos de cómputo espacial que multiplican y acumulan miles de valores cada ciclo sin mover resultados intermedios a la memoria externa. Esta especialización produce un rendimiento por vatio enormemente mejor para la inferencia de IA. Una analogía: una CPU es un pequeño equipo de cirujanos expertos que realizan operaciones delicadas una tras otra; una GPU es un ejército gigante de oficinistas que copian números simultáneamente; una NPU es una línea de ensamblaje construida específicamente para producir exactamente un producto a una velocidad vertiginosa.
Una Unidad de Procesamiento de Visión (VPU) es un subconjunto de NPU, dirigida específicamente a algoritmos de visión artificial como redes neuronales convolucionales y transformada de características invariantes de escala (SIFT). Las VPU se encuentran en cascos de realidad aumentada, cámaras inteligentes y drones. La programación de NPU se basa en marcos de alto nivel: TensorFlow Lite/RT (Android), CoreML (Apple), DirectML (Windows) y el formato de intercambio ONNX. Las API específicas del proveedor como Intel OpenVINO, Qualcomm SNPE, AMD Ryzen AI y Apple CoreML exponen el control de bajo nivel. Las GPU utilizan CUDA, OpenCL o Vulkan para IA, lo que brinda más flexibilidad pero exige más esfuerzo del desarrollador y, a menudo, mayor energía.
¿Qué son los TOPS y cómo se mide el rendimiento de una NPU?
TOPS significa Billones de Operaciones por Segundo (Trillions of Operations Per Second). Es la métrica principal más simple para el rendimiento de un acelerador de IA. Una sola “operación” es casi siempre una multiplicación-acumulación (MAC), la multiplicación-sumada fusionada en el corazón de la multiplicación de matrices. El número se informa con una precisión específica, generalmente INT8 o FP16, porque se pueden citar cifras muy diferentes para precisiones de bits más bajos. Por ejemplo, el Neural Engine M4 de Apple está clasificado en 38 TOPS (INT8), el Snapdragon X Elite de Qualcomm alcanza 45 TOPS, la NPU de Intel Meteor Lake ofrece hasta 11.5 TOPS, mientras que una GPU NVIDIA H100 puede superar los 3900 TOPS (INT8, con dispersión).
TOPS es una cifra teórica máxima. El rendimiento sostenido depende de la arquitectura del modelo, el ancho de banda de la memoria, la eficiencia del tiempo de ejecución del software y el soporte para la dispersión estructural. Dos aceleradores con la misma clasificación TOPS pueden mostrar una velocidad de inferencia notablemente diferente en aplicaciones reales. Los conjuntos de pruebas de referencia como MLPerf proporcionan mediciones estandarizadas que tienen en cuenta estos factores. Al comparar NPU, observe los TOPS para la precisión que realmente usará su modelo: muchas cargas de trabajo de inferencia en el dispositivo usan INT8 para reducir la memoria y la energía, por lo que los TOPS INT8 son el número de consumo más relevante.
¿Para qué se utilizan las NPU en los dispositivos cotidianos?
Las NPU aceleran cargas de trabajo de IA específicas que de otro modo se ejecutarían lentamente o agotarían la batería en una CPU o GPU. En los teléfonos inteligentes, Apple introdujo su Neural Engine con el chip A11 Bionic en 2017. Este bloque dedicado maneja el reconocimiento de Face ID, el seguimiento de animoji y las tareas de fotografía computacional como Smart HDR y Deep Fusion. La detección de escenas en la aplicación de cámara ahora identifica objetos, mascotas, comida y paisajes en tiempo real para ajustar la exposición y el color antes de que se dispare el obturador. El reconocimiento de voz para Siri se ejecuta completamente en el dispositivo cuando no hay conexión a Internet, y el mismo procesamiento local impulsa la traducción en tiempo real en la aplicación Traducir. Las aplicaciones de realidad aumentada utilizan el Neural Engine para rastrear planos y objetos sin vibraciones, manteniendo las superposiciones virtuales estables mientras el usuario mueve el teléfono.
Qualcomm integra una NPU Hexagon en sus plataformas Snapdragon. El acelerador tensorial dentro del bloque Hexagon ejecuta asistentes de voz siempre activos, cancelación de eco y supresión de ruido durante las llamadas. Los chips Exynos de Samsung incluyen una NPU dedicada para cargas de trabajo similares: optimización de escenas de cámara, reconocimiento facial o de iris seguro y comandos de voz de Bixby sin conexión. El chip Tensor de Google tiene un núcleo TPU personalizado (Unidad de Procesamiento Tensorial) derivado originalmente de sus diseños de centros de datos. Ese núcleo impulsa Live Caption en el dispositivo, la transcripción de la aplicación Grabadora sin la nube y Magic Eraser en Google Fotos. Todos estos ejemplos comparten un hilo común: la NPU procesa modelos de aprendizaje profundo que antes eran demasiado pesados para los procesadores móviles, y lo hace consumiendo una fracción de la energía que una GPU necesitaría para la misma tarea.
Las computadoras portátiles están utilizando NPU para videoconferencias y flujos de trabajo creativos. Los procesadores Meteor Lake de Intel contienen una NPU con la marca AI Boost. En una computadora portátil con Windows, esta unidad maneja los Efectos de Estudio de Windows: desenfoque de fondo automático, corrección de contacto visual que ajusta la mirada para que el usuario parezca mirar a la cámara, y cancelación de eco acústico que aísla la voz del hablante incluso en una habitación ruidosa. AMD Ryzen AI, integrado en la serie Ryzen 7040 y posteriores, realiza funciones similares. El software de edición de video aprovecha la NPU para la detección de escenas (clasificar el metraje en tomas secundarias, entrevistas o clips de acción) sin maximizar la CPU o GPU. Adobe Premiere Pro y DaVinci Resolve ahora descargan ciertos filtros de IA como eliminación de objetos y transferencia de estilo a la NPU, manteniendo la línea de tiempo receptiva. Estas computadoras portátiles también admiten ONNX, un formato abierto que permite a los desarrolladores intercambiar modelos entre diferentes marcos y aceleradores de hardware, lo que facilita que una NPU de Intel, AMD o Qualcomm ejecute la misma red neuronal entrenada.
¿Por qué los teléfonos inteligentes y las computadoras portátiles ahora incluyen NPU?
Las razones principales son la latencia, la privacidad y la duración de la batería. Ejecutar un modelo de IA en un servidor remoto agrega tiempo de ida y vuelta que degrada la experiencia del usuario para las funciones en tiempo real. El desbloqueo facial se sentiría lento si cada intento de reconocimiento requiriera una solicitud al servidor. El procesamiento local en una NPU elimina ese retraso. El cumplimiento de la privacidad es otro impulsor. Los asistentes de voz que procesan audio completamente en el dispositivo no envían grabaciones a la nube, cumpliendo con reglas de protección de datos más estrictas y las expectativas del usuario. La duración de la batería mejora porque una NPU dedicada puede ejecutar una red neuronal con una eficiencia energética de 10 a 20 veces mayor que una CPU o GPU para el mismo nivel de rendimiento. Una GPU es un procesador paralelo con cientos de núcleos diseñados para gráficos, y aunque puede ejecutar multiplicación de matrices (la columna vertebral de la inferencia de redes neuronales), no puede igualar la eficiencia energética de una matriz de función fija de unidades de multiplicación-acumulación adaptadas para matemáticas enteras de baja precisión. La arquitectura de la NPU utiliza matrices sistólicas y explotación de dispersión para consumir microvatios por inferencia, extendiendo el tiempo entre cargas.
Un punto de referencia medible son los TOPS (Tera Operaciones por Segundo), que miden el rendimiento de inferencia de enteros. La especificación Copilot+ PC de Microsoft requiere una NPU con al menos 40 TOPS. La primera ola de computadoras portátiles que cumplen con este requisito (utilizando Qualcomm Snapdragon X Elite, AMD Ryzen AI serie 300 e Intel Lunar Lake) demuestra que la industria ahora trata a una NPU como esencial, no opcional. La NPU se convierte en un tercer pilar junto a la CPU y la GPU en una arquitectura de sistema heterogéneo (HSA). El Khronos Group, el consorcio detrás de OpenGL y Vulkan, está estandarizando las API de IA con el objetivo de lanzar un estándar de consumo NNEF (Neural Network Exchange Format) unificado en 2025. La estandarización permitirá que cualquier aplicación solicite una inferencia y que el controlador la programe en el procesador más apropiado (NPU, GPU o CPU) sin intervención del desarrollador. Esta capa de abstracción es importante para las computadoras portátiles y los teléfonos porque elimina la carga de optimizar manualmente los modelos para el silicio de cada proveedor, acelerando la implementación de nuevas funciones de IA en el dispositivo en todo el ecosistema.
Referencia: Wikipedia
