SECTIONS
EDITIONS
NETWORK
AIXX Pedia Die Enzyklopädie der Rechenleistung

AIXX Pedia › Technisches Konzept › NVSwitch-Switch-Chip

NVSwitch-Switch-Chip

NVIDIA NVSWITCH · Fachbegriff-Lexikoneintrag

Überblick OVERVIEW

NVSwitch ist NVIDIAs NVLink-Switch-Chip: Er bündelt die NVLink-Verbindungen mehrerer GPUs auf einem Switch-Chip und ermöglicht so eine ständig wachsende All-to-All-Full-Mesh-Matrix, in der jede GPU mit jeder direkt verbunden ist. 2018 mit dem DGX-2-System erstmals vorgestellt, verband er 16 V100 zu einer NVLink-Domain (NVIDIA Developer Blog „NVSwitch Accelerates NVIDIA DGX-2“); in der fünften Generation (mit Blackwell) lässt sich eine einzelne NVLink-Domain auf 72 GPUs erweitern, mit insgesamt 130 TB/s NVLink-Switching innerhalb der Domain (offizielle NVIDIA-NVLink-Seite und offizielle GB200-NVL72-Seite).

Rolle im AI-Rechenrack: Auf dem Basisboard von Acht-GPU-Systemen (HGX/DGX NVL8) sind NVSwitch-Chips verlötet, die die acht GPUs zu einer Full-Mesh-Domain verbinden; Komplett-Racklösungen wie GB200/GB300 NVL72 setzen dagegen auf eigene NVLink-Switch-Trays – 18 Compute-Trays plus 9 Switch-Trays mit insgesamt 18 NVSwitch-Chips. Das „NV“ in „NVL8 / NVL72“ steht genau für diese NVSwitch-Full-Mesh-Architektur.

Kennzahlen KEY NUMBERS

PositionWert / Definition
FormfaktorSwitch-Chip für Full-Mesh-Verkehr innerhalb einer NVLink-Domain
NVLink pro GPU in der fünften Generation1800 GB/s (offizielle NVIDIA-NVLink-Seite)
NVLink5-Switch-Domain8 oder 72 GPUs · zusammen 130 TB/s innerhalb der NVL72-Domain (offizielle NVIDIA-Seite)
Vergleich zur Vorgängergeneration (NVLink4)900 GB/s pro GPU · 8 GPUs pro Domain · zusammen 7,2 TB/s Switching

Bedeutung für die B300 ON B300

Die Connectivity des B300-Acht-GPU-Systems basiert vollständig auf dem NVSwitch auf dem Basisboard: NVIDIA gibt für das DGX B300 offiziell insgesamt 14,4 TB/s NVLink an – also 8 Karten mit je 1800 GB/s zusammengezählt (offizielle NVIDIA-DGX-B300-Seite). Beim Tensor-Parallelismus im Training großer Modelle wird ein Modell auf mehrere Karten aufgeteilt, was enormen Kommunikationsaufwand zwischen den Karten erzeugt; nur weil innerhalb der NVSwitch-Domain keine Bandbreite verloren geht, können die acht Karten wie eine einzige zusammenarbeiten.

Käuferperspektive: Der NVSwitch sitzt auf dem Basisboard, die Karten sind ebenfalls verlötet – eine Prüfung darf daher nicht bei den Karten enden, sondern muss die NVLink-Domain am Gesamtsystem testen (Punkt-zu-Punkt-Bandbreite und All-Reduce-Kollektivkommunikation als Stresstest); die Reparaturhistorie von Basisboard und Switch-Chips lässt sich nur über den Prüfbericht nachvollziehen. Käufer ganzer Rack-Systeme (NVL72-Formfaktor) sollten zudem beachten, dass auch die 9 Switch-Trays flüssigkeitsgekühlt sind – die Rechenzentrumsausstattung muss gleich mitverhandelt werden.

Grenzen und Hinweise LIMITS

  • Proprietäres Ökosystem mit generationsgebundener Kopplung: NVSwitch dient ausschließlich NVIDIA-NVLink-Domains, deren Größe sich generationenabhängig weiterentwickelt (NVLink4: 8 GPUs pro Domain, NVLink5: bis zu 72 – offizielle NVIDIA-Seiten). Basisboard/Trays sind an die GPU-Generation gebunden, ein Mischbetrieb über Generationen hinweg ist nicht möglich – ein Upgrade bedeutet faktisch einen Plattformwechsel.
  • Fehlerbild auf Systemebene: Bei Acht-GPU-Systemen kann ein Defekt an Switch-Chip oder Basisboard das gesamte System lahmlegen (die SXM-Onboard-Bauform erlaubt kein Hot-Swapping einzelner Karten); bei Rack-Systemen sind die Switch-Trays zudem flüssigkeitsgekühlte Komponenten – Wartung und Leckagerisiken müssen gemeinsam bewertet werden.

Videoerklärung VIDEO

Quellen REFERENCES

  1. NVIDIA-Website – Blackwell Ultra / HGX B300 Produktseite https://www.nvidia.com/en-us/data-center/hgx/
  2. Marktdaten und Angebote: AIXX Börse (Marktband dieser Datenbank)
Versionen und Korrekturen | Dieser Eintrag wird von der AIXX Pedia-Redaktion gepflegt, KI-gestützt verfasst, manuell faktengeprüft. Aktualisiert am 2026-10-20 · Version v1.0 · Alle Änderungen nachvollziehbar dokumentiert.
Datenbank
RedaktionsrichtlinienInteressenmeldung zu dieser DatenbankKorrekturkanal
Auszug aus der Redaktionsverfassung
Jede Aussage mit QuelleSchwächen immer benannt · Korrekturen öffentlich dokumentiertKeine bezahlten EinträgeKeine Werbung oder Verkaufselemente in EinträgenMarktdaten ausschließlich als Datenmodul eingebunden
AIXX-Familie
AIXX PediaAIXX BörseAIXX News
Quellen der Marktdaten: AIXX Börse · © 2026 AIXX Pedia · Ein Angebot von AIXX