AIXX Pedia › Concept technique › GPUDirect
GPUDirect est la famille de technologies de communication directe GPU de NVIDIA — elle permet aux données de contourner le CPU et la mémoire système en établissant un chemin direct entre le GPU et les périphériques externes. GPUDirect RDMA permet à la carte réseau de lire et d'écrire directement dans la mémoire du GPU (en supprimant la copie intermédiaire par le CPU) ; GPUDirect Storage achemine les données du stockage directement vers la mémoire GPU (sans relais CPU) ; NVLink, quant à lui, assure la connexion directe entre GPU.
L'entraînement comme l'inférence IA profitent de GPUDirect : pendant l'entraînement, la synchronisation des gradients AllReduce passe par GPUDirect RDMA ; pendant l'inférence, le KV cache va du stockage directement à la mémoire GPU (GPUDirect Storage) ; le fabric multi-nœuds multi-GPU s'appuie sur GPUDirect+RDMA — aucun goulot d'étranglement CPU sur toute la chaîne de données.
| Élément | Valeur / périmètre |
|---|---|
| GPUDirect RDMA | Accès direct carte réseau ↔ mémoire GPU |
| GPUDirect Storage | Accès direct NVMe/stockage → mémoire GPU |
| Matériel associé | Cartes réseau ConnectX + topologie PCIe compatible P2P |
| Stack logicielle | CUDA + NCCL + GPUDirect Storage SDK |
Toute la gamme B300 prend en charge GPUDirect — le fabric inter-nœuds des GB200/GB300 NVL72 (ConnectX-8) comme le domaine NVLink intra-châssis empruntent les chemins GPUDirect. Lors de l'achat de composants d'interconnexion (cartes réseau/commutateurs/câbles), la vérification point par point de la liste de compatibilité GPUDirect est une étape de réception indispensable — les modules tiers peuvent s'insérer physiquement sans que GPUDirect fonctionne.