News

NVIDIA presenta arquitectura de almacenamiento de IA en FMS, permitiendo acceso directo de GPU a almacenamiento

A medida que las cargas de trabajo de IA continúan creciendo en escala, el papel de la infraestructura de almacenamiento está experimentando un cambio fundamental. En la conferencia Future of Memory and Storage (FMS) de esta semana, NVIDIA mostró nuevos avances en almacenamiento y argumentó que el próximo salto en IA depende tanto de la infraestructura de almacenamiento como de la potencia de cómputo.

Los Agentes de IA Llevan las Demandas de Almacenamiento a Nuevos Niveles

NVIDIA destacó que los agentes de IA están consumiendo cantidades masivas de datos a un ritmo sin precedentes. Más notablemente, las GPU ahora pueden iniciar solicitudes de almacenamiento directamente, generando miles de operaciones concurrentes. Esto ejerce una presión inmensa sobre los sistemas de almacenamiento, que deben cifrar, comprimir, verificar y reconstruir datos continuamente. Estos servicios críticos de datos pueden convertirse en cuellos de botella cuando miles de agentes acceden al almacenamiento simultáneamente.

Según los puntos de referencia publicados en un blog técnico de NVIDIA, la CPU NVIDIA Vera, parte de NVIDIA Vera BlueField-4 STX, ofrece hasta 3.21 veces más rendimiento que una CPU x86 en un pipeline de compresión y cifrado de dos etapas. Esto significa que las plataformas de almacenamiento construidas con Vera pueden absorber la avalancha de datos de IA de manera más eficiente, ofreciendo un mayor rendimiento con una infraestructura de cómputo significativamente menor.

Del Almacenamiento Pasivo a la Ruta de Datos Activa

Durante cuatro décadas, el almacenamiento ha sido tratado como un lugar pasivo para contener datos. La compensación tradicional era entre memoria (rápida pero costosa) y almacenamiento (amplio pero lento). NVIDIA argumenta que la computación acelerada está cambiando fundamentalmente esta ecuación.

En las GPU actuales, combinadas con soluciones de almacenamiento para IA de NVIDIA y sus socios, la misma compensación de tiempo de acceso ha pasado de minutos a microsegundos. El almacenamiento ya no es un repositorio de datos pasivo; se convierte en un participante activo en la ruta de procesamiento de datos.

NVIDIA enfatizó que cerrar la brecha entre las necesidades de la IA y la escasez de memoria requiere un codiseño profundo en todo el ecosistema, desde los fabricantes de memoria y almacenamiento hasta el software construido sobre ellos.

Las API de cuFile se Vuelven de Código Abierto, Habilitando la Interoperabilidad GPU-Almacenamiento

En FMS, NVIDIA anunció que está abriendo el código fuente de sus interfaces de programación de aplicaciones (API) cuFile y la pila de software de almacenamiento vertical subyacente. cuFile es un componente de código abierto de NVIDIA GPUDirect Storage, que permite que las GPU, no solo las CPU, lean y escriban directamente en el almacenamiento.

Al aprovechar cientos de miles de hilos de GPU, memoria rápida de alto ancho de banda y otras técnicas, cuFile puede acceder de forma segura a los datos desde el almacenamiento en microsegundos. Esto representa cómo la industria se está unificando en torno a una pila de almacenamiento centrada en la seguridad basada en las mejores prácticas de Linux, proporcionando interoperabilidad entre las GPU y los datos.

NVIDIA señaló que el acceso rápido y seguro a los datos y al almacenamiento es fundamental para impulsar medidas de ciberseguridad preventivas y de detección. Hacer que cuFile esté disponible abiertamente ayuda a impulsar la estandarización de las prácticas de seguridad en toda la industria.

Fuente: Blog de NVIDIA