AIXX Pedia › Technisches Konzept › NVLink-Interconnect
NVLink ist NVIDIAs proprietärer GPU-Direct-Interconnect-Bus, der mehreren GPUs eine direkte Kommunikation mit deutlich höherer Bandbreite als PCIe ermöglicht; die fünfte Generation erreicht 1,8 TB/s pro Karte.
Die zugehörigen NVSwitch verbinden mehrere GPUs zu einer vollständig vernetzten Matrix – das NV in „NVL8 / NVL72“ kommt daher: All-to-All-Full-Mesh-Architektur.
| Position | Wert / Definition |
|---|---|
| Generation | NVLink der fünften Generation |
| Bandbreite pro Karte | 1.8TB/s |
| Typische Konfiguration | NVL8 (8-GPU-Board) · NVL72 (72-GPU-Komplettsystem) |
| Externe Netzwerkanbindung | ConnectX-8 + Quantum-800 / Spectrum-X(800G) |
Beim Tensor-Parallelismus großer Modelle wird ein Modell auf mehrere Karten aufgeteilt, was enorme Kommunikationslast zwischen den Karten erzeugt – NVLink lässt acht GPUs wie eine einzelne zusammenarbeiten.
Ein 8-GPU-System benötigt zudem eine 800G-Externe-Netzwerkanbindung; ohne passendes Netzwerk sind acht GPUs acht isolierte Inseln.