SECTIONS
EDITIONS
NETWORK
AIXX Pedia Die Enzyklopädie der Rechenleistung

AIXX Pedia › Technisches Konzept › Scale-up und Scale-out

Scale-up und Scale-out

SCALE-UP / SCALE-OUT · Fachbegriff-Artikel

Überblick OVERVIEW

Scale-up (vertikale Skalierung) und Scale-out (horizontale Skalierung) sind die beiden Interconnect-Ebenen eines KI-Clusters: Scale-up bezeichnet die „Erweiterung innerhalb des Racks“ – GPUs sind über NVLink/NVSwitch hochgradig all-to-all verbunden und bilden eine Domäne (das 72-GPU-Einzeldomäne-Konzept des GB200 NVL72); Scale-out bezeichnet die „Erweiterung über Racks hinweg“ – mehrere Racks werden über InfiniBand oder Ethernet zu einem größeren Cluster verbunden.

Einordnung für Einkäufer: Scale-up bestimmt, „wie schnell die Kommunikation im Rack ist“ (hohe Bandbreite innerhalb der NVLink-Domäne, aber begrenzte Skalierung); Scale-out bestimmt, „wie schnell die Kommunikation zwischen Racks ist“ (geringere Bandbreite bei InfiniBand/Ethernet, aber praktisch unbegrenzte Skalierung). Der Durchsatz-Engpass beim Training großer Modelle liegt meist auf der Scale-out-Ebene – das Fabric-Design (Topologie/Routing/Congestion Control) ist eine Kernkompetenz des Integrators.

Kennzahlen KEY NUMBERS

PositionWert / Definition
Scale-up-InterconnectNVLink / NVSwitch (im Rack)
Scale-out-InterconnectInfiniBand / RoCE-Ethernet (über Rack-Grenzen hinweg)
Scale-up-Bandbreite130 TB/s innerhalb der GB200-NVL72-Domäne
Scale-out-Bandbreite800 G pro ConnectX-8-Karte

Bedeutung für die B300 ON B300

Bei der B300-Serie läuft Scale-up über NVLink 5 (1,8 TB/s pro Karte, all-to-all in der Domäne), Scale-out über ConnectX-8 (800 G, Fabric über Maschinen hinweg) – beim Kauf von Komplettsystemen müssen beide Ebenen geplant werden: Die Größe der NVLink-Domäne im Rack bestimmt, „wie viele Karten sich wie eine Karte verhalten“, das Design des Cross-Rack-Fabrics bestimmt die Skalierungseffizienz des Clusters.

Grenzen und Hinweise LIMITS

  • Die Scale-up-Größe ist durch die Verpackung begrenzt: Die Anzahl der GPUs in einer NVLink-Domäne wird durch Kupferkabellängen und die Portzahl der Switch-Chips begrenzt – NVL72 ist derzeit die praktische Obergrenze, NVL576 steht auf der Roadmap.
  • Die Latenz von Scale-out ist höher als bei Scale-up: Die Kommunikation über Maschinengrenzen läuft durch den Netzwerk-Protokollstack (selbst mit RDMA) und bleibt damit langsamer als NVLink im Rack – die Parallelisierungsstrategie des Trainings muss auf das Bandbreitenverhältnis der beiden Ebenen abgestimmt sein.

Videoerklärung VIDEO

Quellen REFERENCES

  1. NVIDIA-Website – Blackwell Ultra / HGX B300 Produktseite https://www.nvidia.com/en-us/data-center/hgx/
  2. Markt- und Umlaufdaten: AIXX Börse (Marktband dieser Datenbank)
Versionen und Korrekturen |Dieser Eintrag wird von der AIXX Pedia-Redaktion gepflegt, mit KI-Unterstützung erstellt und manuell geprüft. Aktualisiert am 30.10.2026 · Version v1.0 · Alle früheren Änderungen sind revisionssicher dokumentiert.
Datenbank
RedaktionsrichtlinienInteressenmeldung zu dieser DatenbankKorrekturkanal
Auszug aus der Redaktionsverfassung
Jede Aussage mit QuelleSchwächen immer benannt · Korrekturen öffentlich dokumentiertKeine bezahlten EinträgeKeine Werbung oder Verkaufselemente in EinträgenMarktdaten ausschließlich als Datenmodul eingebunden
AIXX-Familie
AIXX CloudAIXX BörseAIXX MarktdatenAIXX News
Marktüberblick: AIXX Börse · © 2026 AIXX Pedia · Ein Angebot von AIXX