AIXX Pedia › Concept technique › Puce de commutation NVSwitch
NVSwitch est la puce de commutation NVLink de NVIDIA : elle rassemble les liens NVLink de plusieurs GPU sur une même puce de commutation, permettant à la matrice full-mesh (« All-to-All ») de s'agrandir sans limite. Dévoilée en 2018 avec le système DGX-2, elle reliait 16 GPU V100 en un seul domaine NVLink (blog développeurs NVIDIA « NVSwitch Accelerates NVIDIA DGX-2 ») ; à la cinquième génération (avec Blackwell), un domaine NVLink peut s'étendre à 72 GPU, avec un total de 130TB/s de commutation NVLink au sein du domaine (page officielle NVIDIA NVLink et page officielle GB200 NVL72).
Rôle dans les racks de calcul IA : sur les serveurs 8 GPU (HGX/DGX NVL8), les NVSwitch sont soudés sur la carte de base et relient les huit GPU en domaine full-mesh ; les solutions rack intégrales comme GB200/GB300 NVL72 emploient des tiroirs de commutation NVLink dédiés — 18 tiroirs de calcul plus 9 tiroirs de commutation, soit 18 puces NVSwitch au total. Le « NV » dans « NVL8 / NVL72 » désigne précisément cette topologie full-mesh par NVSwitch.
| Élément | Valeur / périmètre |
|---|---|
| Format | Puce de commutation assurant le full-mesh au sein d'un domaine NVLink |
| NVLink mono-GPU de cinquième génération | 1800GB/s (page officielle NVIDIA NVLink) |
| Domaine de commutation NVLink5 | 8 ou 72 GPU · 130TB/s cumulés dans le domaine NVL72 (page officielle NVIDIA) |
| Comparaison avec la génération précédente (NVLink4) | 900GB/s par GPU · 8 GPU par domaine · 7,2TB/s de commutation cumulée |
Sur un serveur 8 GPU B300, l'interconnexion repose entièrement sur les NVSwitch de la carte de base : NVIDIA annonce officiellement 14,4TB/s de NVLink cumulés pour le DGX B300 — soit 8 cartes à 1800GB/s chacune (page officielle NVIDIA DGX B300). L'entraînement de grands modèles en parallélisme tensoriel découpe un modèle sur plusieurs GPU, avec un trafic inter-cartes énorme ; au sein du domaine NVSwitch, la bande passante n'est pas dégradée, si bien que huit cartes collaborent comme une seule.
Point de vue acheteur : les NVSwitch sont sur la carte de base, tout comme les GPU — l'inspection ne doit pas se limiter aux cartes, il faut tester le domaine NVLink de la machine complète (bande passante point à point et tests de communication collective all-reduce) ; l'historique de réparation de la carte de base et des puces de commutation ne peut être retracé que via le Rapport d'inspection. Les acheteurs au niveau rack (forme NVL72) doivent aussi vérifier que les 9 tiroirs de commutation sont refroidi par liquide et négocier l'infrastructure de la salle serveur en conséquence.