SECTIONS
EDITIONS
NETWORK
AIXX Pedia L'encyclopédie du calcul intensif

AIXX Pedia › Concept technique › GPUDirect

GPUDirect

NVIDIA GPUDIRECT · Entrée technique

Vue d'ensemble OVERVIEW

GPUDirect est la famille de technologies de communication directe GPU de NVIDIA — elle permet aux données de contourner le CPU et la mémoire système en établissant un chemin direct entre le GPU et les périphériques externes. GPUDirect RDMA permet à la carte réseau de lire et d'écrire directement dans la mémoire du GPU (en supprimant la copie intermédiaire par le CPU) ; GPUDirect Storage achemine les données du stockage directement vers la mémoire GPU (sans relais CPU) ; NVLink, quant à lui, assure la connexion directe entre GPU.

L'entraînement comme l'inférence IA profitent de GPUDirect : pendant l'entraînement, la synchronisation des gradients AllReduce passe par GPUDirect RDMA ; pendant l'inférence, le KV cache va du stockage directement à la mémoire GPU (GPUDirect Storage) ; le fabric multi-nœuds multi-GPU s'appuie sur GPUDirect+RDMA — aucun goulot d'étranglement CPU sur toute la chaîne de données.

Chiffres clés KEY NUMBERS

ÉlémentValeur / périmètre
GPUDirect RDMAAccès direct carte réseau ↔ mémoire GPU
GPUDirect StorageAccès direct NVMe/stockage → mémoire GPU
Matériel associéCartes réseau ConnectX + topologie PCIe compatible P2P
Stack logicielleCUDA + NCCL + GPUDirect Storage SDK

Ce que cela signifie sur le B300 ON B300

Toute la gamme B300 prend en charge GPUDirect — le fabric inter-nœuds des GB200/GB300 NVL72 (ConnectX-8) comme le domaine NVLink intra-châssis empruntent les chemins GPUDirect. Lors de l'achat de composants d'interconnexion (cartes réseau/commutateurs/câbles), la vérification point par point de la liste de compatibilité GPUDirect est une étape de réception indispensable — les modules tiers peuvent s'insérer physiquement sans que GPUDirect fonctionne.

Limites et points de vigilance LIMITS

  • GPUDirect exige une topologie PCIe adaptée : le GPU et la carte réseau doivent être sous le même Root Complex PCIe — le P2P entre nœuds NUMA différents subit une perte de performance ; lors du choix d'un serveur, la topologie PCIe est un critère de réception central.
  • La compatibilité des stockages et cartes réseau tiers est inégale : la liste de compatibilité GPUDirect Storage est maintenue par NVIDIA — des équipements hors liste peuvent « fonctionner mais avec des performances dégradées ».

Présentation vidéo VIDEO

Mémoire HBM3eInterconnexion NVLinkSXM / NVL8Refroidissement liquide à plaque froide / CDUFormat de précision FP8MoE mélange d'expertsPuce de commutation NVSwitchRéseau d'interconnexion InfiniBandStockage NVMeCDU de refroidissement par liquideRDMA accès direct à la mémoire distanteTensor CoreMIG (Multi-Instance GPU)PCIe Gen5Calcul confidentielvGPU GPU virtuelFP4 / FP6 flottants basse précisionKV Cache cache d'inférenceScale-up et Scale-outCPO optique co-packagéeNVLink FusionArchitecture modulaire MGXQuantification de modèleParallélisme de tenseursCommunications collectivesUsine à IABoucle de refroidissement liquideIndicateur d'efficacité PUETensorRT-LLMMoteur d'inférence vLLMLoRA adaptation bas rangChaîne d'approvisionnement en calculTCO coût total de possessionBenchmark de débit d'inférenceDistillation de modèleChaîne d'alimentation électriqueÉconomie des tokensPipeline de données d'entraînementStack d'optimisation d'inférenceMémoire GDDR7Famille des connecteurs d'alimentation (EPS/PCIe 8pin/12VHPWR/12V-2x6)Chronologie des contrôles à l'exportation vers la ChineGuide de validation GPU (nvidia-smi/GPU-Z)Optimisation d'inférence TensorRTExécution par graphes CUDA GraphsBibliothèque de communications collectives NCCLFormat de modèle ouvert ONNXGénéalogie des générations HBMEntraînement en précision mixteGénérations PCIeGénéalogie des formats de rackDécoder la nomenclature des GPUCircuit de GPU d'occasionComparaison refroidi par air / refroidi par liquideSanté mémoire et diagnostic de pannesMémoire HBM4Interconnexion UALinkFiche modèle B300

Références REFERENCES

  1. Site officiel NVIDIA — page produit Blackwell Ultra / HGX B300 https://www.nvidia.com/en-us/data-center/hgx/
  2. Marché et données de vente : AIXX Exchange (bande de marché de cette base)
Versions et corrections |Cette fiche est maintenue par la rédaction d'AIXX Pedia : rédaction assistée par IA, faits vérifiés à la main. Mise à jour le 2026-10-20 · version v1.0 · chaque modification est historisée et consultable.
Cette base
Politique éditorialeÀ propos de cette base (déclaration d'intérêts)le canal de corrections
Résumé de la charte éditoriale
Chaque affirmation sourcéeLes défauts obligatoirement mentionnés · Corrections publiques tracéesAucune entrée sponsorisée acceptéeZéro élément de prospection ou de vente dans les entréesDonnées de marché intégrées uniquement comme module de données
Famille AIXX
AIXX PediaAIXX ExchangeActualités AIXX
Source des données de marché : AIXX Exchange · © 2026 AIXX Pedia · Une production AIXX