AIXX Pedia › Ficha de infraestructura › Almacenamiento todo-flash NVMe

Almacenamiento todo-flash NVMe Es la «tercera pata» de los clústeres de AI: además del cómputo (GPU) y la red (NVLink/fabric), el pipeline de datos de entrenamiento e inferencia — escritura/lectura de checkpoints, rendimiento del conjunto de datos de entrenamiento, estratificación del KV cache— recae enteramente en la capa de almacenamiento. Protocolo NVMe (SSD directo a PCIe, saltándose controladores SAS/SATA tradicionales) + arreglos all-flash + red NVMe-oF + GPUDirect Storage (Los datos van directamente del almacenamiento a la memoria de la GPU sin pasar por copias en la CPU, según la documentación oficial de NVIDIA[3]), una pieza clave del estándar de almacenamiento para IA moderna.
Por qué se volvió imprescindible en los clústeres de IA: los checkpoints de un clúster de mil GPUs rondan las decenas de TB y los datasets de entrenamiento se miden en cientos de TB; el rendimiento de discos mecánicos o arrays híbridos no da abasto, y cada segundo que la GPU espera datos es dinero quemado en tarjetas. NVMe-oF extiende el rendimiento all-flash a la red (vía RDMA directo[1]) y GPUDirect Storage elimina la CPU del camino de datos: estas dos cosas deciden si la capa de almacenamiento es un acelerador o un cuello de botella.
Esta entrada es una entrada de selección de categoría : aborda la arquitectura de almacenamiento desde la perspectiva del clúster de IA, los parámetros de selección y la aceptación en compras, sin centrarse en un único producto. No hay precio de mercado unificado para el almacenamiento: el precio real está sujeto a la cotización del vendedor.
AIXX Index (0–100): estimación ponderada según la adecuación al escenario. 90+ nivel insignia · 75+ Excelente · 60+ utilizable · menos de 60 no aplicable.
En 2011 , se publica la especificación NVMe 1.0: un protocolo que conecta los SSD directo a PCIe y nace para la memoria flash, reemplazando el canal SAS/SATA— la base protocolar de los arrays all-flash (fuente pública del sector).
2016-2020 : mainstreamización de los arrays all-flash: la especificación NVMe-oF extiende NVMe a la red (RDMA directo) y los arrays all-flash de Dell/NetApp/Pure se convierten en el nuevo estándar del almacenamiento empresarial; los clústeres de GPU empiezan a montarse sobre bases all-flash (según el sector[1]).
En 2020 , NVIDIA lanza GPUDirect Storage : los datos de almacenamiento llegan por RDMA directamente a la memoria de la GPU sin pasar por la CPU (según el blog de desarrolladores y la documentación oficial de NVIDIA[2][3]), se resuelve el último kilómetro del almacenamiento para IA y el ecosistema CUDA suma otra victoria.
2023-2026 , estandarización en clústeres de IA: las necesidades de checkpoints y rendimiento de datos del entrenamiento de grandes modelos colocan el almacenamiento en el centro de la infraestructura: la arquitectura en tres capas «lago de objetos (frío) + caché all-flash (caliente) + acceso directo GPUDirect» se convierte en la arquitectura de referencia para IA (según arquitecturas de referencia del sector[4]).
| Parámetro | Qué mirar | Criterio de medición |
|---|---|---|
| Throughput (GB/s) | Coincidencia del ancho de banda agregado de lectura/escritura con la velocidad de consumo de la GPU | Calcular el throughput de almacenamiento a partir de «datos consumidos por hora por el clúster», con un 30 % de margen (criterio estimado) |
| IOPS y latencia | En escenarios de IO pequeño (metadatos de checkpoints, estratificación del KV cache) mirar IOPS y latencia P99 | Alto throughput ≠ baja latencia; evaluar ambas cargas por separado |
| Soporte NVMe-oF | Extensión a red bajo transporte RDMA (RoCE/IB) | Cotejar con la ruta fabric del clúster: red IB con IB-RDMA, Ethernet con RoCE |
| GPUDirect Storage | Si el array/sistema de archivos figura en la lista de compatibilidad GDS de NVIDIA | la lista oficial de compatibilidad de NVIDIA es la referencia (según su documentación[3]); para soluciones fuera de la lista, el acceso directo requiere desarrollo adicional. |
| Sistema de archivos paralelo | Lustre/familia GPFS/FS paralelos propios del fabricante | Múltiples nodos GPU leyendo concurrentemente el mismo dataset: el throughput paralelo es clave |
| Escalonamiento de capacidad | Tres niveles: caliente (NVMe)/tibio (híbrido)/frío (objeto/cinta) | All-flash solo para datos calientes— el costo de capacidad se reduce mediante el escalonamiento |
| Protección de datos | Erasure coding/replicación, snapshots, recuperación ante desastres en otro sitio | El seguro de los datasets de entrenamiento y checkpoints; dimensionar según el valor de los datos |
Criterios de selección elaborados por esta biblioteca a partir de documentación arquitectónica pública (criterios de octubre de 2026)[1][3][4]; lo definitivo es la documentación del fabricante y las pruebas de estrés reales.
| Capa | Medio/formato | Qué se aloja | Indicador clave |
|---|---|---|---|
| Capa caliente | Array all-flash NVMe / NVMe distribuido | Conjuntos de entrenamiento activos, checkpoints, estratificación del KV cache | Throughput + paso directo GPUDirect |
| Capa tibia | Híbrido / NVMe de gran capacidad | Versiones recientes de datasets, productos intermedios de preprocesamiento | Relación capacidad-precio |
| Capa fría | Almacenamiento de objetos / cinta | Lago de datos original, archivo histórico | Costo por unidad de capacidad |
La arquitectura de tres capas es una elaboración de esta biblioteca a partir de arquitecturas de referencia públicas[4]; la estrategia de capas se adapta al ciclo de vida de los datos de cada negocio.
Tres tipos de actores en el almacenamiento para IA (recopilación de esta base, no constituye recomendación de compra):
| Campo | Representantes | Posicionamiento y características |
|---|---|---|
| Arrays all-flash empresariales | Dell PowerStore/PowerScale, NetApp AFF, Pure FlashArray//FlashBlade, Huawei OceanStor, serie AS de Inspur | Protección de datos y sistemas de operación empresariales completos; la adaptación a IA depende de la compatibilidad GPUDirect y el throughput paralelo (criterio de líneas de producto públicas) |
| Almacenamiento nativo para IA | VAST Data, WEKA, VDURA y otros fabricantes de nueva generación de sistemas de archivos paralelos | Pensado para clústeres de GPU: FS paralela + capas NVMe + integración profunda con GDS (según arquitecturas de referencia[4]). |
| Autoconstrucción/código abierto | Lustre, Ceph, JuiceFS y otras soluciones propias | En clústeres muy grandes, el autocontrol es fuerte; el personal de operación es el costo (criterio del ecosistema público) |
La información de fabricantes es una recopilación de líneas de producto públicas; lo específico está sujeto a los materiales oficiales de cada fabricante; el lado de las memorias NAND (discos NVMe empresariales de Samsung/Solidigm/Western Digital) es otra capa de la cadena de suministro, ya incluida en la compra del array.

Las fotos reales de equipos de almacenamiento se irán subiendo conforme lleguen los lotes verificados; las imágenes generadas por IA no se presentan como fotos reales.
Tabla de tres pasos para poner en producción el almacenamiento: Cotejo del fabric : (la red de almacenamiento sigue la misma ruta que el fabric de cómputo: clústeres IB con red de almacenamiento IB-RDMA, Ethernet con RoCE— mezclar rutas exige gateway y penaliza latencia y throughput); Habilitación de GDS (componentes desplegados según la documentación oficial de GDS de NVIDIA[3], asumiendo que el array está en la lista de compatibilidad); Pruebas de estrés para dimensionar : (pruebas de throughput con las tareas reales de entrenamiento— las especificaciones de papel no cuentan; solo con pruebas se sabe si la GPU espera o no).
Consejo de operación: monitorear las métricas de la capa de almacenamiento (throughput/IOPS/latencia P99/nivel de capacidad) en la misma pantalla que el monitoreo del clúster de GPUs— «utilización de GPU anormalmente baja» tiene como primer punto de revisión la velocidad de alimentación del almacenamiento (criterio de experiencia de operación de esta base).
Puntos clave de aceptación para la compra de almacenamiento para IA (tres ítems):
Los seis criterios completos de aceptación se ven en esta entrada «Cómo verificar» de esta ficha.
Seis criterios de aceptación (marco de aceptación de almacenamiento para IA): inventario al desempaquetar → throughput básico → paso directo GPUDirect → lectura concurrente → ejercicios de falla → pruebas de estabilidad prolongada.
Protocolo de almacenamiento nacido para la memoria flash: SSD conectado directo al bus PCIe, alta profundidad de cola y baja latencia; frente a SAS/SATA, libera la velocidad de la flash. Los SSD NVMe son el bloque básico de los arrays all-flash.
NVMe over Fabrics: extiende el protocolo NVMe a la red (transporte RDMA, sobre IB o RoCE); los servidores acceden a arrays all-flash remotos como si fueran discos locales, con pérdidas de rendimiento mínimas (según el sector[1]).
La tecnología de acceso directo de NVIDIA: los datos van del almacenamiento NVMe/arrays por RDMA directamente a la memoria de la GPU sin copias intermedias en la CPU; tecnología clave para acelerar la carga de datos de entrenamiento y la lectura/escritura de checkpoints (según documentación oficial[3]).
Arquitectura de almacenamiento con acceso concurrente multi nodo al mismo sistema de archivos (familia Lustre/GPFS, etc.): distribuye los datos en franjas (striping) entre varios nodos de almacenamiento para agregar throughput; solo un FS paralelo aguanta que un clúster de mil GPU lea el dataset de entrenamiento a la vez.
Punto de guardado del proceso de entrenamiento: volcado periódico de los pesos del modelo + estado del optimizador; los checkpoints de grandes modelos se cuentan en decenas de TB: escribir lento frena el ritmo del entrenamiento y perderlos arruina todo el progreso. El throughput de checkpoint es la primera prueba del almacenamiento para IA.
Solución de desbordamiento de memoria en servicios de inferencia: el KV cache que no cabe en el HBM de la GPU pasa a la capa NVMe; se intercambia ancho de banda NVMe por capacidad de memoria, un componente de las arquitecturas de inferencia con contextos largos y lotes grandes concurrentes.
El almacenamiento para IA se compra sobre todo por proyectos (grandes diferencias de configuración/capacidad/pila de software), y los arrays de segunda mano deben superar además el filtro de seguridad de datos; de momento no hay una instantánea de mercado unificada y verificable, Principio de honestidad de este repositorio: no publicamos bandas de mercado; el precio real está sujeto a la cotización del vendedor 。
Búsqueda de unidades en venta: AIXX Exchange Hall › (Intermediación sin comisión; no participa en transacciones, no conoce ni especula con precios de cierre, de ahí su neutralidad). Cuando se acumulen suficientes instantáneas de mercado, esta sección se convertirá en la franja de mercado estándar.
Tres diferencias: escala de throughput (alimentar un clúster de mil GPU es decenas de veces una carga empresarial típica), arquitectura de paso directo (GPUDirect Storage evita la CPU) y patrón de concurrencia (múltiples nodos GPU leyendo el mismo dataset en paralelo); un NAS convencional o un array híbrido no da abasto ante ninguna de las tres.
Muy recomendable: los datos llegan directo a la memoria de GPU sin pasar por la CPU, reduciendo a la vez latencia y uso de CPU en la carga de datos de entrenamiento y la lectura/escritura de checkpoints (criterio de la documentación oficial); las soluciones sin GDS también funcionan, pero el techo de throughput del paso por CPU es bajo y el trasiego de datos devora recursos del host.
Los checkpoints de grandes modelos se cuentan en decenas de TB y se escriben con frecuencia: si la escritura es lenta, frena el entrenamiento (las GPU esperan al volcado) y si se interrumpe, se pierde todo el progreso; el throughput y la fiabilidad de los checkpoints son la línea divisoria entre almacenamiento para IA y almacenamiento convencional.
Sí, pero pasando tres filtros: seguridad de datos (el certificado de borrado seguro de los datos anteriores es condición de la transacción), salud (exportación completa de vida útil de escritura/SMART de los SSD NVMe) y licencias (si las licencias de capacidad y características se transfieren con el hardware). El almacenamiento es el hogar de los datos: los estándares de aceptación deben ser altos, no bajos.
Recomendado, misma tecnología con capas separadas: clústeres IB con red de almacenamiento IB-RDMA, clústeres Ethernet con RoCE; mezclar tecnologías exige pasarelas de conversión que penalizan latencia y throughput. A nivel de tráfico, la red de almacenamiento y la de cómputo pueden aislarse física o lógicamente para evitar que la escritura de checkpoints golpee la comunicación del entrenamiento.