SECTIONS
EDITIONS
NETWORK
AIXX Pedia La enciclopedia del mundo del cómputo

AIXX Pedia › Concepto técnico › GPUDirect

GPUDirect

NVIDIA GPUDIRECT · Ficha de concepto técnico

Resumen OVERVIEW

GPUDirect es la familia de tecnologías de comunicación directa de GPU de NVIDIA: permite que los datos eviten la CPU y la memoria del sistema, estableciendo rutas directas entre la GPU y dispositivos externos. GPUDirect RDMA permite que la tarjeta de red lea y escriba directamente en la memoria de la GPU (eliminando la copia intermedia de la CPU); GPUDirect Storage lleva los datos del almacenamiento directamente a la memoria de la GPU (también sin pasar por la CPU); y NVLink es la conexión directa entre GPU.

El entrenamiento y la inferencia de IA se benefician de GPUDirect: en el entrenamiento, la sincronización de gradientes por AllReduce usa GPUDirect RDMA; en la inferencia, la caché KV pasa del almacenamiento directamente a la memoria de la GPU (GPUDirect Storage); el fabric multihost y multicard usa GPUDirect+RDMA: toda la ruta de datos queda sin cuellos de botella por la CPU.

Cifras clave KEY NUMBERS

ConceptoValor / criterio
GPUDirect RDMAConexión directa tarjeta de red ↔ memoria de GPU
GPUDirect StorageConexión directa NVMe/almacenamiento → memoria de GPU
Hardware asociadoTarjetas de red ConnectX + topología PCIe con soporte P2P
Stack de softwareCUDA + NCCL + GPUDirect Storage SDK

Su relevancia en el B300 ON B300

Toda la gama B300 es compatible con GPUDirect: el fabric entre hosts del GB200/GB300 NVL72 (ConnectX-8) y el dominio NVLink dentro del rack siguen rutas GPUDirect. Al adquirir componentes de interconexión (tarjetas de red, conmutadores, cables), verificar punto por punto la lista de compatibilidad de GPUDirect es un requisito imprescindible de aceptación: los módulos de terceros pueden encajar físicamente pero no funcionar con GPUDirect.

Límites y advertencias LIMITS

  • GPUDirect requiere una topología PCIe adecuada: la GPU y la tarjeta de red deben estar bajo el mismo Root Complex de PCIe: el rendimiento P2P entre nodos NUMA distintos se degrada, por lo que la topología PCIe es un punto clave de aceptación al elegir el servidor.
  • La compatibilidad de almacenamiento y tarjetas de red de terceros es desigual: la lista de compatibilidad de GPUDirect Storage la mantiene NVIDIA; los dispositivos fuera de esa lista pueden funcionar «a medias, con rendimiento reducido».

Vídeo explicativo VIDEO

Memoria HBM3eInterconexión NVLinkSXM / NVL8refrigeración líquida por placa fría / CDUFormato de precisión FP8MoE (mezcla de expertos)Chip conmutador NVSwitchRed de interconexión InfiniBandAlmacenamiento NVMeCDU de refrigerado por líquidoAcceso remoto directo a memoria RDMATensor CoreGPU multi-instancia MIGPCIe Gen5Computación confidencialGPU virtual vGPUPrecisión de punto flotante reducida FP4 / FP6Caché de inferencia KV CacheScale-up y Scale-outÓptica copackaged CPONVLink FusionArquitectura modular MGXCuantización de modelosParalelismo de tensoresComunicaciones colectivasFábrica de IACircuito de refrigeración líquidaIndicador de eficiencia energética PUETensorRT-LLMMotor de inferencia vLLMAdaptación de bajo rango LoRACadena de suministro de cómputoCoste total de propiedad (TCO)Benchmarks de rendimiento de inferenciaDestilación de modelosCadena de suministro de energíaEconomía del tokenPipeline de datos de entrenamientoStack de optimización de inferenciaMemoria de vídeo GDDR7Familia de conectores de alimentación (EPS/PCIe 8pin/12VHPWR/12V-2x6)Cronología de los controles de exportación hacia ChinaGuía de verificación de GPU (nvidia-smi/GPU-Z)Optimización de inferencia con TensorRTEjecución por grafos con CUDA GraphsBiblioteca de comunicación colectiva NCCLFormato abierto de modelos ONNXGenealogía de generaciones HBMEntrenamiento en precisión mixtaGeneraciones de PCIeGenealogía de formatos de rackGuía de nomenclatura de modelos de GPUCircuito de comercialización de GPU de segunda manoComparativa entre refrigerado por aire y refrigerado por líquidoSalud de la memoria de vídeo y diagnóstico de fallosMemoria de vídeo HBM4Interconexión UALinkFicha de modelo B300

Referencias REFERENCES

  1. Sitio oficial de NVIDIA — Página del producto Blackwell Ultra / HGX B300 https://www.nvidia.com/en-us/data-center/hgx/
  2. Datos de mercado y disponibilidad: AIXX Exchange (franja de mercado de esta base)
Versiones y correcciones |Esta ficha está mantenida por el equipo editorial de AIXX Pedia, redactada con asistencia de IA y verificada por humanos. Actualizada el 2026-10-20 · versión v1.0 · todos los cambios quedan registrados y son consultables.
Esta base
Política editorialSobre esta base (declaración de intereses)canal de correcciones
Resumen de la constitución editorial
Cada afirmación con fuenteDefectos siempre indicados · correcciones públicas y trazablesNo se aceptan entradas pagadasCero elementos de captación o venta dentro de las entradasLos datos de cotización solo se montan como módulo de datos
Familia AIXX
AIXX PediaAIXX ExchangeAIXX Noticias
Fuente de datos de cotización: AIXX Exchange · © 2026 AIXX Pedia · una producción de AIXX